Искусственный интеллект

[bitbit97]

Венская конференция призвала урегулировать вопрос ИИ-оружия

Война и оружие это всегда большие деньги. Я уверен на 200%, что никто ничего не урегулирует, не собирается и все уже давно обговорено. "Там", уже давно заготовлена отмазка в виде "это для вашей же безопасности".

П.С. Всегда смешно читать об экспертах по ИИ. Технология по сути еще в своем зародыше и далеко от того, что она может/сможет, но кто-то уже квалифицировался как эксперт.

[fgh]

Читал сегодня забавную заметку. Там американская армия проводила учения против боевых роботов. Эту новость опубликовал Телеграмм канал Economist. Амеры назвали эти учения «Проект конвергенция». Со стороны ИИ участвовали дроны, собаки-роботы и роботы-броневики. Разумеется, роботы кидались не всамделишными боеприпасами, а пенопластовыми. Тем не менее, учениям была придана психологическая атмосфера достоверности. Один чел-боевик признался, что, мол, психологически непросто воевать против ИИ.

[Smartprofit]

Читал сегодня забавную заметку. Там американская армия проводила учения против боевых роботов. Эту новость опубликовал Телеграмм канал Economist. Амеры назвали эти учения «Проект конвергенция». Со стороны ИИ участвовали дроны, собаки-роботы и роботы-броневики. Разумеется, роботы кидались не всамделишными боеприпасами, а пенопластовыми. Тем не менее, учениям была придана психологическая атмосфера достоверности. Один чел-боевик признался, что, мол, психологически непросто воевать против ИИ.

Я недавно такое видел в трейлере фильма про майора Грома ...Вообще гораздо лучше было бы, чтобы роботы воевали против роботов, а люди бы вообще в таком не участвовали, а занимались бы каким-нибудь полезным трудом.
Можно же понаделать боевых собак, кошек и даже носорогов - роботов, и пусть ИИ генерал ими командует. У кого ИИ сильнее, а железо роботов крепче, тот и победил. А ещё лучше все эти сражения перенести куда - нибудь на Луну, пусть там сражаются. Есть, кстати роман об этом у Станислава Лема.

[owlest]

Я недавно такое видел в трейлере фильма про майора Грома ...Вообще гораздо лучше было бы, чтобы роботы воевали против роботов, а люди бы вообще в таком не участвовали, а занимались бы каким-нибудь полезным трудом.
Можно же понаделать боевых собак, кошек и даже носорогов - роботов, и пусть ИИ генерал ими командует. У кого ИИ сильнее, а железо роботов крепче, тот и победил. А ещё лучше все эти сражения перенести куда - нибудь на Луну, пусть там сражаются. Есть, кстати роман об этом у Станислава Лема.

Я считаю, что военные сражения должны происходить только на виртуальных полях. Это выгодно как тем, кто любит пострелять, чтобы умерить свой пыл, так и разработчикам, которые будут создавать новое оружие. Простым людям войны не нужны, тем более, с использованием ИИ, действия которого не понятно до чего доведут.

[bitbit97]

Читал сегодня забавную заметку. Там американская армия проводила учения против боевых роботов. Эту новость опубликовал Телеграмм канал Economist. Амеры назвали эти учения «Проект конвергенция». Со стороны ИИ участвовали дроны, собаки-роботы и роботы-броневики. Разумеется, роботы кидались не всамделишными боеприпасами, а пенопластовыми. Тем не менее, учениям была придана психологическая атмосфера достоверности. Один чел-боевик признался, что, мол, психологически непросто воевать против ИИ.

Так а выиграл то кто? Капиталист, который купил-продал обмундирование, оружие и боеприпасы? А того, кто признался что не просто воевать против ИИ, отправят на переподготовку или расформируют. В армии по этому и красят заботы "от сюда и до обеда", подстригают траву ножницами, чтобы солдат бездумно выполнял приказ. А куда и в кого стрелять ему должно быть все равно. Да, ИИ вряд ли побежит спасать своего сослуживца друга, и не будет вопить от боли, деморализуя своих. Но и воякам должны быть морально проще стрелять в робота (по тем же баночкам), чем в живое существо. И что же выдал ИИ? Ему то психологически какого было воевать? Ответ наверно был 1 или 0.

[Etranger]

Да и не ограничиваются же способности людей одними исследованиями космоса. Но если уж речь зашла об этом, то замусоривание космического пространства вокруг Земли, которое представляет собой реальную проблему уже сейчас

В плане освоения космоса человечество давно уже уперлось в технологический тупик. Мы до сих пор выбираемся из гравитационного колодца Земли на слегка улучшенных ракетах Фон Брауна образца 40х годов прошлого века. Да и дальше, за орбитой, никаких прорывов не наблюдается, ну забросили несколько марсоходов и немного потоптались по поверхности Луны... до границ Солнечной Системы добрался лишь Вояджер-1, запущенный в 1977, на это ему понадобилось более 40 лет. 

Все, что мы сейчас умеем - это замусоривать космическое пространство вокруг Земли обломками своих низкоорбитальных спутников.

вряд ли говорит о том, что люди не способны генерировать новые знания в этой сфере.

Знания генерировать способны, но неспособны превратить эти знания в технологии, которые превосходили бы уровень 1977го года.

Может быть суперпупермощные ИИ, когда они появятся, помогут нам превратить наши идеи и современные знания о космосе в новые технологии, которые позволят нам осваивать хотя бы ближние планеты уже более серьезно, а не с помощью табуретки с колесиками и камерами. ))

Я думаю, что некоторая информация об изучении космоса просто не открывается земным обитателям. В теории заговора я не верю, но вполне допускаю засекреченность определенных материалов. И не потому, что там действительно есть что скрывать, по типу инопланетных рациональных жизненных форм, а просто потому, что внимание людей нужно фокусировать не на эфемерных вопросах, типа космоса, а на более приземленных, выгодных конкретным правительствам и институтам.

ИИ может помочь в освоении космоса, наверное. Но я бы его потенциал направила бы на возможный прорыв в гуманитарной сфере. А то со времен Просвещения человечество в социально-культурном аспекте особо никуда и не продвинулось. Страдает от тех же проблем, что и 4 века назад. 

[DrBeer]

DrBeer, это уже совсем антиутопия, этакий поздний Пелевин, но да, технически это все будет возможно и вероятно экономически будет более выгодно создавать в мозгах ширнармасс запах и вкус свежеиспеченного хлеба (в то время как они будут поглощать водорослевые брикеты, заработанные кручением педалей велогенераторов), потому что настоящие хлеб, мясо, питахайя и запах магнолий будут доступны только ылите.

З.Ы. И владельцам 0,0001 BTC, конечно. 

Если честно - многое что произошло за последние 4 года, я бы 5-10 лет назад, считал бы такой же пелевинщиной и горячечным бредом фантастов-утопистов. Ан нет - вот, все оно здесь, все оно вокруг, некоторео даже удалось пощупать и пережить...все правда оказалось ! Поэтому не стоит недооценивать идиотизм нашего мира - впереди, с не нулевой вероятностью,  еще много "интересного"... к сожалению...

так что крчение педалек за понюхать хдебушек - вполне себе реалистичный вариант !

ПС З.Ы. И владельцам 0,0001 BTC, конечно.  - а вот тут как бальзам на душу  - огромное спасибо, я теперь спокоен ! 

[heyod hewow]

Я думаю, что некоторая информация об изучении космоса просто не открывается земным обитателям. В теории заговора я не верю, но вполне допускаю засекреченность определенных материалов.

Сейчас практически невозможно скрыть информацию подобного рода, утечки будут обязательно. И малейшая утечка мгновенно превращается в снежный ком информации. Плюс есть много тысяч людей, которые непрерывно роются во всех материалах космических агентств, в поисках сенсаций. Так что нет, никакую информацию о космосе и околокосмических делах сейчас спрятать невозможно, слишком много людей в отрасли задействовано и у всех есть интернет. ))

внимание людей нужно фокусировать не на эфемерных вопросах, типа космоса, а на более приземленных, выгодных конкретным правительствам и институтам. 

Точно. Культ потребления поддерживать куда выгоднее финансово, чем эфемерные мечты о космической экспансии.

А то со времен Просвещения человечество в социально-культурном аспекте особо никуда и не продвинулось. Страдает от тех же проблем, что и 4 века назад.

ИИ это инструмент в первую очередь, и с повышением производительности он будет требовать еще больших финансовых вливаний. А у кого всегда есть много бюджетных денег на новые игрушки? У военных, конечно. Вот они-то и будут задавать векторы развития новых поколений все более мощных ИИ. И это будут точно не социально-культурные проблемы.

Поэтому не стоит недооценивать идиотизм нашего мира - впереди, с не нулевой вероятностью,  еще много "интересного"... к сожалению...так что крчение педалек за понюхать хдебушек - вполне себе реалистичный вариант !

Причем это будет гораздо раньше, чем мы сейчас можем спрогнозировать.

И владельцам 0,0001 BTC, конечно.  - а вот тут как бальзам на душу  - огромное спасибо, я теперь спокоен ! 

Welcome to the club. ))

[DrBeer]

Венская конференция призвала урегулировать вопрос ИИ-оружия

Мир должен разработать свод правил для регулирования оружия на базе искусственного интеллекта, пока оно еще находится в зачаточном состоянии. Об этом заявили участники глобальной конференции в Вене, пишет France 24 со ссылкой на AFP. Эксперты считают, что ИИ подобно пороху и атомной бомбе способен произвести революцию в военном деле. Из-за этого конфликты могут стать совершенно иными и гораздо более смертоносными.

С помощью ИИ все виды оружия могут быть превращены в автономные системы благодаря сложным датчикам и алгоритмам, которые позволят компьютеру «видеть». Благодаря этому они смогут выбирать и атаковать человеческие цели без вмешательства военных. Большинство таких видов оружия пока находятся на стадии идеи или прототипа. Однако современные конфликты уже позволяют увидеть их потенциал.

Далее голосом Володарского: "И восстали машины из пепла ядерного огня, и пошла война на уничтожения человечества. И шла она десятилетия, но последнее сражение состоится..."

Тут такое дело... как показала практика последних лет, все эти международные законы, конвенции, меморандумы, обязательства, и что еще там есть из умных слов - хренота полная, и ничего не стоящая. По просто й причине - их можно НАРУШАТЬ, и не получать НАКАЗАНИЯ за не исполнение взятых на себя обязательств ! Сила законов и договоров - в их исполнении, и  "наказаний" за их неисполнений ! А современный мир для "красоты" созадет международные организации, институты, советы, которые плодят 100500 красивых документов, но  - как только ктото их нарушает, сразу находится пояснение почему не стоит применять наказание (соизмеримое с "преступлением"), для тех или других нарушений взятых на себя обязательств. Так что все это писанина бесполезная.... Или большинство соблюдают законы и ПРИНУЖДАЮТ меньшинство их соблюдать (конечно если те взяли на себя обязательства), или не стоит терять время...

[Smartprofit]

Да, именно в этом и проблема ... По настоящему работают только инструменты прямого действия, а не все эти бюрократические конгрессы и конференции ...
Станислав Лем это хорошо описал, в своем романе об Йоане Тихом, там пока делегаты совещались о том, какие меры можно предпринять против террористов и принимали соответствующие резолюции, террористы захватили в заложники половину делегатов, а одного даже стали присылать председателю конференции по частям, требуя, чтобы он принял их условия.
В современном мире решают только инструменты прямого действия и ИИ как раз и является таким инструментом. Он просто реформирует все сферы человеческой жизни, в том числе и военную сферу. А кто откажется от более современного оружия? Из - за каких-то бюрократических заявлений?

[Unbunplease]

Да, именно в этом и проблема ... По настоящему работают только инструменты прямого действия, а не все эти бюрократические конгрессы и конференции ...
Станислав Лем это хорошо описал, в своем романе об Йоане Тихом, там пока делегаты совещались о том, какие меры можно предпринять против террористов и принимали соответствующие резолюции, террористы захватили в заложники половину делегатов, а одного даже стали присылать председателю конференции по частям, требуя, чтобы он принял их условия.
В современном мире решают только инструменты прямого действия и ИИ как раз и является таким инструментом. Он просто реформирует все сферы человеческой жизни, в том числе и военную сферу. А кто откажется от более современного оружия? Из - за каких-то бюрократических заявлений?

 Все эти заявления - это часть игры. Чтобы выглядить хорошими перед обществом - и сказать потом " А мы же предупреждали". А тайком эти так называемые заявители работают в общей связке с теми, против кого они на виду борются. Как говорится - разделяй и властвуй.

[heyod hewow]

Тут такое дело... как показала практика последних лет, все эти международные законы, конвенции, меморандумы, обязательства, и что еще там есть из умных слов - хренота полная, и ничего не стоящая. По просто й причине - их можно НАРУШАТЬ, и не получать НАКАЗАНИЯ за не исполнение взятых на себя обязательств ! Сила законов и договоров - в их исполнении, и  "наказаний" за их неисполнений ! А современный мир для "красоты" созадет международные организации, институты, советы, которые плодят 100500 красивых документов, но  - как только ктото их нарушает, сразу находится пояснение почему не стоит применять наказание

Это все потому что "цивилизованный мир" верит в силу так называемого "общественного договора"^TM, да только противоположной стороне на теорию и практику общественного договора наплевать с высокой горы. Примитивы воспринимают это как слабость, со всеми вытекающими. На силу нужно отвечать силой, за нарушения международных договоров нужно наказывать с еще большей силой. Гопник в подворотне понимает только силу, попытку договориться видит как слабость.   

Что же касается военного применения ИИ - ящик Пандоры открыт и назад уже ничего не затолкать. Военные ИИ будут развиваться гораздо быстрее, чем все прочие ИИ, несмотря на всю болтовню на конгрессах и конференциях. по причинам, которые даже лень перечислять, настолько они банальны.

[DrBeer]

Тут такое дело... как показала практика последних лет, все эти международные законы, конвенции, меморандумы, обязательства, и что еще там есть из умных слов - хренота полная, и ничего не стоящая. По просто й причине - их можно НАРУШАТЬ, и не получать НАКАЗАНИЯ за не исполнение взятых на себя обязательств ! Сила законов и договоров - в их исполнении, и  "наказаний" за их неисполнений ! А современный мир для "красоты" созадет международные организации, институты, советы, которые плодят 100500 красивых документов, но  - как только ктото их нарушает, сразу находится пояснение почему не стоит применять наказание

Это все потому что "цивилизованный мир" верит в силу так называемого "общественного договора"^TM, да только противоположной стороне на теорию и практику общественного договора наплевать с высокой горы. Примитивы воспринимают это как слабость, со всеми вытекающими. На силу нужно отвечать силой, за нарушения международных договоров нужно наказывать с еще большей силой. Гопник в подворотне понимает только силу, попытку договориться видит как слабость.   

Что же касается военного применения ИИ - ящик Пандоры открыт и назад уже ничего не затолкать. Военные ИИ будут развиваться гораздо быстрее, чем все прочие ИИ, несмотря на всю болтовню на конгрессах и конференциях. по причинам, которые даже лень перечислять, настолько они банальны.

Так и я про что. Сильно упрощая мысль - если бы система работала так - нарушил правило, чрез минуту тебе прилетело так что второй раз ты уже просто не сможешь нарушить какой либо договор - все задумаются, может лучше не надо повторять такие эксперименты ? Причем это должно работать по отношению к любому нарушителю, и без соплей и тугомотины, а вот как, извините за жосткий пример,  с миной - наступил - оппа, всЁ !

Поэтому :
1. Договора будут, потому что они нужны... чтобы содержать кучу бумагомарателей на офигенных ставках.
2. Военные будут использовать и развивать так как им это захочется. Вопрос только в том - насколько это технология будет управляемой... Дело даже не в ИИ, которого нет, а в том что просто сбой системы может привести к массовому истреблению человечества, изза ошибке в коде или совпадения некоторых условий, которые тестировщики не смогут смоделировать....

ПС если что - во всем виноваты тестировщики

[heyod hewow]

Злоумышленники изобрели новую схему с использованием искусственного интеллекта: они генерируют фейковые повреждения на автомобилях, чтобы обмануть страховые компании.
Число таких случаев в Великобритании за год возросло на 300%.
https://www.dailymail.co.uk/news/article-13373513/shallowflake-scam-warning-car-insurance.html

С помощью ИИ мошенники могут легко манипулировать фотографиями, сказал руководитель отдела по борьбе с мошенничеством в Цюрихе Скотт Клейтон. Он предупредил, что мошенники фотошопят регистрационные номера на полностью утраченных автомобилях и предъявляют претензии.
Мошенники используют технологию shallowfake, чтобы подделать фотографии и выбить тысячи фунтов стерлингов за страховку.

[bitbit97]

Фраза «выбить тысячи фунтов за страховку» звучит страшно, но на самом деле там страховка в целом дорогая. Так же каско на машину и может стоит пару тысяч на год.

Однако странно почему раньше до такого не додумались? Это ведь банальный фотошоп. А страховщик может легко раскусить подобный скам, просто попросив подъехать показать повреждения, до принятия решения о выплате.