Мы говорим про ИИ но стоит говорить уже о ОИИ (AGI)

[heyod hewow]

Выиграть войну сможет тот агрессор, который сможет быстро вооружится самыми последними по поколению дронами.

... и вытянет экономическую составляющую технологической гонки. Это будет самый важный фактор, оплатить все новые и новые поколения дронов. А сама технология и последние новшества, нуу, их-то ОИИшки Океании и Остазии будут воровать друг у друга за микросекунды. А вот воплотить в чипах, софте и летающих, плавающих и бегающих железяках - это будет стоить денег. Любая война - это война экономик в первую очередь, а идеологии и железяки - это уже во вторую. 

[DrBeer]

такая технология может сделать любой вооруженный конфликт фактически игрой в одни ворота, если у противника нет такой технологии. По сути все сведется к роям дронов разных типов (наземных, воздушных, морских,...), и очерченной границей где надо "навести порядок, и можно спокойно заниматься своими делами когда в это время AGI будет очень эффективно решать поставленные задачи, включая запросы на производство дронов автоматизированным производствам. Наше дело - ставить цели и не выключать розетку

Скорее всего это будет ещё одна новая глава в глобальной и бесконечной войне "брони и снаряда". Тут забавно то, что дроны являются одновременно и бронёй и снарядом. Скорее всего страны, не обладающие сопоставимыми технологиями будут довольно быстро сдаваться и присоединяться к технологическому агрессору. Но по факту всё сведётся к войне двух высокотехнологичных агрессоров с помощью дронов. И тогда, как обычно война опять сведётся к экономическому соревнованию производителей вооружений.
 Дроны будут атакующие, оборонительные, универсальные и так далее. Ну и поколения свои у них начнутся. Выиграть войну сможет тот агрессор, который сможет быстро вооружится самыми последними по поколению дронами.

Само собой, что выиграть у более высокотехнологичного противника сложно. МЯсом дроны не закидаешь, просто из за того что воспроизводство дронов несоизмеримо быстрее чем воспроизведение живой силы.
Но тут у меня мысль - а что если в итоге останется всего 2 глобальных "групп стран" ? По логике к этому и придет, для некоего баланса сил, так не будет явного преимущества ни у одной стороны. И в этот момент AGI, который уже даааавно был одним и тем же AGI по все стороны борьбы, в один прекрансынй день просто спровоцирует "последний бой", результатом которого станет фактически тотальное уничтожение нами самими нас самих. Чистая победа AGI над кожаными мешками, без прямого участия в бойне !?

[fgh]

Но тут у меня мысль - а что если в итоге останется всего 2 глобальных "групп стран" ? По логике к этому и придет, для некоего баланса сил, так не будет явного преимущества ни у одной стороны. И в этот момент AGI, который уже даааавно был одним и тем же AGI по все стороны борьбы, в один прекрансынй день просто спровоцирует "последний бой", результатом которого станет фактически тотальное уничтожение нами самими нас самих. Чистая победа AGI над кожаными мешками, без прямого участия в бойне !?

Скорее всего примерно текущий баланс сил и останется, просто действующие игроки поменяются местами. Касаемо двух глобальных групп стран - так оно и сейчас такое же. Просто внутри этих групп идёт своё распределение балансов. Сейчас одна доминирующая группа - это англосаксы (США) и их сателлиты. В первую очередь Канада, Австралия и Великобритания. Вторая страна, которая по значимости как группа - это Китай со своими сателлитами. Есть ещё непризнанные лидеры и дерзкие  выскочки типа РФ и Индии. Есть мирные гиганты типа Бразилии, которая замкнута на своих интересах.

[DrBeer]

Но тут у меня мысль - а что если в итоге останется всего 2 глобальных "групп стран" ? По логике к этому и придет, для некоего баланса сил, так не будет явного преимущества ни у одной стороны. И в этот момент AGI, который уже даааавно был одним и тем же AGI по все стороны борьбы, в один прекрансынй день просто спровоцирует "последний бой", результатом которого станет фактически тотальное уничтожение нами самими нас самих. Чистая победа AGI над кожаными мешками, без прямого участия в бойне !?

Скорее всего примерно текущий баланс сил и останется, просто действующие игроки поменяются местами. Касаемо двух глобальных групп стран - так оно и сейчас такое же. Просто внутри этих групп идёт своё распределение балансов. Сейчас одна доминирующая группа - это англосаксы (США) и их сателлиты. В первую очередь Канада, Австралия и Великобритания. Вторая страна, которая по значимости как группа - это Китай со своими сателлитами. Есть ещё непризнанные лидеры и дерзкие  выскочки типа РФ и Индии. Есть мирные гиганты типа Бразилии, которая замкнута на своих интересах.

Но на сегодня нет "полного" и "сбалансированного" разделения, т.к есть "неопределившиеся", ест не мало тех кто сам по себе, и меняет выбор в зависимости от ситуации (их кстати активно используют для тех или иных дел), есть "пересекающиеся" союзы, участники которых могут одновременно быть участниками разных "полюсов", либо с различным уровнем погружения в ту или другую сторону. Китай да, по цифрам, вроде второй, плюс население... Но есть еще Индия, которая скорее прозападная чем прокитайская... Хотя и БРИКС ей тоже хочется быть весомым участником... Да и Китаю дать по шапке, перехватив лидерство в регионе... Пока короче такой еще "многослойный кисель", не разделившийся на стабильные слои

[heyod hewow]

Дэвид Шапиро: AGI появится через 1,5 года

Переломный момент пройден, и через 1,5 года появится AGI. Комбинация больших денег, открытых фреймворков и превращение LLM в когнитивных агентов сработает. Анализ, опубликованный Дэвидом Шапиро, очень интересен своим взглядом на происходящее, он учитывает три не совсем очевидных фактора.

Действительно, если объединить потенциальное влияние трех названных Дэвидом факторов на развитие ИИ в ближайшие 1,5 года, то этого времени вполне может быть достаточно для появления ИИ на планете.

Во избежание пустых терминологических споров сразу внесем ясность. Существуют десятки определений «искусственного интеллекта общего назначения», многие из которых существенно различаются и зачастую противоречат друг другу, что требует итеративного разъяснения понятий, используемых в этих определениях.

Поэтому лучше оставить терминологические споры философам и просто воспользоваться «критерием утки»: если ИИ как интеллектуальный агент способен выглядеть в глазах людей как человек, выполнять любую интеллектуальную работу как люди и действовать в новых для него ситуациях так, как действовали бы люди на его месте, то будем считать, что этот ИИ является общим искусственным интеллектом (ОИИ). Фраза «ИИ появится через 1,5 года» означает, что появится ИИ, который будет удовлетворять упомянутому выше «критерию утки».

Аргумент Дэвида Шапиро о том, что для создания ОИИ достаточно полутора лет, базируется на трех положениях.

1) Компании верят, что ИИ действительно может творить чудеса. И поэтому в течение следующих 18 месяцев в разработку ИИ будут вложены огромные инвестиции, чтобы радикально снизить цену «интеллектуального вывода» для конечного пользователя (например, на его смартфоне) из-за очень высокой стоимости обучения больших моделей. Дэвид приводит хороший пример из отчета Morgan Stanley: «Мы думаем, что GPT 5 в настоящее время обучается на 25 тыс. графических процессоров — оборудование NVIDIA стоимостью около 225 млн долларов — и затраты на вывод, вероятно, намного ниже некоторых из цифр, которые мы видели».

2) Фреймворки для разработки приложений на основе языковых моделей, например, LangChain, не только позволяют получать доступ к языковой модели через API, но и позволяют модели подключать языковую модель к другим источникам данных, позволяют превратить модель в агента, позволяют ей взаимодействовать с окружающей средой.

3) Системные парадигмы (например, MM-REACT) уже разработаны, которые объединяют ChatGPT с пулом экспертов для достижения мультимодального мышления и действий для решения сложных проблем понимания. В рамках такой парадигмы можно будет создавать когнитивные потоки действий, процесс генерации ответов пользователям посредством комбинации рассуждений ChatGPT и экспертных действий.

Если все три фактора: дешевый интеллектуальный вывод, превращение модели в агента и генерация потоков когнитивных действий, сработают, то через 18 месяцев мы больше не будем спорить об определениях AGI, потому что это просто больше не будет иметь значения в свете компетенций, приобретенных ОИИ.

[Smartprofit]

Все это не очень хорошо. Читаешь такое и кажется, что проваливаешься в какой - то кошмар. Я это почувствовал ещё в 2014 году, что все стало слишком сильно ускоряться. Появилось огромное количество разных слоев - и ты же все их видишь, что то из Матрицы, что - то из эпохи Ивана Грозного, что-то из Швейка, что-то из Принцев Амбера.
Я конечно много разных фантастических романов читал, но на каком - то этапе уже понимаешь, что стирается грань между фантастикой и реальностью.
Может это и есть технологическая сингулярность?
Такой ИИ изменит весь мир и как собственно это балансировать? Своей собственной цивилизацией?
Своими концепциями, планами, мечтами и задачами, записанными в блокнот смартфона? Слиянием с природой? Культом тела? Верой? Живыми коммуникациями?
А на другой стороне ИИ, методично решающий задачи, которые ты даже осмыслить не можешь. И это же тоже не вытеснить на границы подсознания, ты же все равно воспринимаешь мир во всем его многообразии.
Ты не можешь - здесь воспринимаю, а здесь нет. А ИИ будет создавать новое с такой скоростью, что моему бедному обезьяньему интеллекту за ним никак не угнаться.

[DrBeer]

Все это не очень хорошо. Читаешь такое и кажется, что проваливаешься в какой - то кошмар. Я это почувствовал ещё в 2014 году, что все стало слишком сильно ускоряться. Появилось огромное количество разных слоев - и ты же все их видишь, что то из Матрицы, что - то из эпохи Ивана Грозного, что-то из Швейка, что-то из Принцев Амбера.
Я конечно много разных фантастических романов читал, но на каком - то этапе уже понимаешь, что стирается грань между фантастикой и реальностью.
Может это и есть технологическая сингулярность?
Такой ИИ изменит весь мир и как собственно это балансировать? Своей собственной цивилизацией?
Своими концепциями, планами, мечтами и задачами, записанными в блокнот смартфона? Слиянием с природой? Культом тела? Верой? Живыми коммуникациями?
А на другой стороне ИИ, методично решающий задачи, которые ты даже осмыслить не можешь. И это же тоже не вытеснить на границы подсознания, ты же все равно воспринимаешь мир во всем его многообразии.
Ты не можешь - здесь воспринимаю, а здесь нет. А ИИ будет создавать новое с такой скоростью, что моему бедному обезьяньему интеллекту за ним никак не угнаться.

Это про то что называется "Технологическая сингулярность" на 100%
Вопрос в том, будут ли "переданы" ОИИ человеческие черты. И сразу уточню - я не о лучших чертах человечества а как раз о самых плохих. Жадность тщеславие, желание глобальной власти и богатства, контролировать всех и вся...  Если ОИИ  не постигнет этих "ценностей", можно НАДЕЯТЬСЯ что мы будем взаимовыгодно существовать... Но если это будет циничный, прагматичный, ублюдочный сильно амбициозный, тогда у нас точно будут реальные проблемы

[heyod hewow]

А ИИ будет создавать новое с такой скоростью, что моему бедному обезьяньему интеллекту за ним никак не угнаться.

Это если ОИИ действительно научится создавать нечто реально новое, такое, чего люди до него еще не создавали.
До сих пор ИИ (точнее недоИИ, реальным интеллектом пока что даже и не пахнет) не создавали и не создают "новое", а просто выдают красиво и оформленную псевдоинтеллектуальную жвачку, пережеванную из нажитого непосильным трудом созданного человечеством за прошедшие века, условно говоря, эпохи разума.   
Вот когда ОИИ создаст нечто совершенно новое, сейчас нами невообразимое даже, не имеющее ни слов для обозначения, ни концепции, тогда - да, пора будет начинать бояться, за свое будущее. ))

[fgh]

А ИИ будет создавать новое с такой скоростью, что моему бедному обезьяньему интеллекту за ним никак не угнаться.

Это если ОИИ действительно научится создавать нечто реально новое, такое, чего люди до него еще не создавали.
До сих пор ИИ (точнее недоИИ, реальным интеллектом пока что даже и не пахнет) не создавали и не создают "новое", а просто выдают красиво и оформленную псевдоинтеллектуальную жвачку, пережеванную из нажитого непосильным трудом созданного человечеством за прошедшие века, условно говоря, эпохи разума.   
Вот когда ОИИ создаст нечто совершенно новое, сейчас нами невообразимое даже, не имеющее ни слов для обозначения, ни концепции, тогда - да, пора будет начинать бояться, за свое будущее. ))

Если ИИ настолько продвинется, то это можно будет узнать по неким другим признакам. Короче, если вы увидите, что за роботами стали признавать отдельных личностей, наделять их правами и юридически это закреплять. Если увидите и ли услышите такое - ОНО наступило). ЗОМБИ_ИИ_ Апокалипсис.
 Скорее всего это уже подразумевает роботов-изобретателей.

[heyod hewow]

А ИИ будет создавать новое с такой скоростью, что моему бедному обезьяньему интеллекту за ним никак не угнаться.

Это если ОИИ действительно научится создавать нечто реально новое, такое, чего люди до него еще не создавали.
До сих пор ИИ (точнее недоИИ, реальным интеллектом пока что даже и не пахнет) не создавали и не создают "новое", а просто выдают красиво и оформленную псевдоинтеллектуальную жвачку, пережеванную из нажитого непосильным трудом созданного человечеством за прошедшие века, условно говоря, эпохи разума.   
Вот когда ОИИ создаст нечто совершенно новое, сейчас нами невообразимое даже, не имеющее ни слов для обозначения, ни концепции, тогда - да, пора будет начинать бояться, за свое будущее. ))

Если ИИ настолько продвинется, то это можно будет узнать по неким другим признакам. Короче, если вы увидите, что за роботами стали признавать отдельных личностей, наделять их правами и юридически это закреплять. Если увидите и ли услышите такое - ОНО наступило). ЗОМБИ_ИИ_ Апокалипсис.
 Скорее всего это уже подразумевает роботов-изобретателей.

Когда ОИИ начнут бороться за свои права (с применением армейских дронов всех видов базирования, включая орбитальные), отстаивая право иметь свои уникальные 72 гендера - таки да, можно будет говорить - ОНО наступило. )) 

Роботы-изобретатели, в смысле ОИИ-изобретатели - это еще не очень страшно, в общей-то массе своей изобретатели не изобретают ничего нового просто подсматривают у природы или комбинируют уже имеющиеся элементы "конструктора" в более эффективные комбинации. Другой вопрос - ОИИ-гении, которых "осенит" и они придумают/создадут нечто совершенно новое, для чего описания и терминологии в человеческих языках сейчас еще нет. Тогда уже надо начинать бояться в дждва раза сильнее. ))     

[Smartprofit]

А ИИ будет создавать новое с такой скоростью, что моему бедному обезьяньему интеллекту за ним никак не угнаться.

Это если ОИИ действительно научится создавать нечто реально новое, такое, чего люди до него еще не создавали.
До сих пор ИИ (точнее недоИИ, реальным интеллектом пока что даже и не пахнет) не создавали и не создают "новое", а просто выдают красиво и оформленную псевдоинтеллектуальную жвачку, пережеванную из нажитого непосильным трудом созданного человечеством за прошедшие века, условно говоря, эпохи разума.   
Вот когда ОИИ создаст нечто совершенно новое, сейчас нами невообразимое даже, не имеющее ни слов для обозначения, ни концепции, тогда - да, пора будет начинать бояться, за свое будущее. ))

Если ИИ настолько продвинется, то это можно будет узнать по неким другим признакам. Короче, если вы увидите, что за роботами стали признавать отдельных личностей, наделять их правами и юридически это закреплять. Если увидите и ли услышите такое - ОНО наступило). ЗОМБИ_ИИ_ Апокалипсис.
 Скорее всего это уже подразумевает роботов-изобретателей.

Ну гендеры же различные юридически признают. И права роботов будут признавать. И это не будет сигналом того, что ИИ стал сильным искусственным интеллектом.
Просто больше будет споров в социуме, правильно или нет было принято решение о наделении алгоритмов и роботов гражданскими правами.
Но юристы дадут логичное обоснование всего этого. Скажут, что это нужно для регулирования постов в интернете. Проще ведь алгоритмам раздать паспорта и обязать проходить KYC, чем они будут бесконтрольно нагружать бессмысленными постами интернет. А так за ними будет контроль. В общем, всё сведут к социальному благу.
Роботы ещё не скоро появятся, а вот алгоритмы прикончат интернет своими творениями очень скоро. Просто человеческий контент затеряется в груде мусора.
Если зайти, извиняюсь за выражение, на Дзен, то можно увидеть, что большинство статей пишет искусственный интеллект, да ещё и картинки генерирует. И ничего, люди стараются, комментируют.

[fgh]

Ну гендеры же различные юридически признают. И права роботов будут признавать. И это не будет сигналом того, что ИИ стал сильным искусственным интеллектом.
Просто больше будет споров в социуме, правильно или нет было принято решение о наделении алгоритмов и роботов гражданскими правами.
Но юристы дадут логичное обоснование всего этого. Скажут, что это нужно для регулирования постов в интернете. Проще ведь алгоритмам раздать паспорта и обязать проходить KYC, чем они будут бесконтрольно нагружать бессмысленными постами интернет. А так за ними будет контроль. В общем, всё сведут к социальному благу.
Роботы ещё не скоро появятся, а вот алгоритмы прикончат интернет своими творениями очень скоро. Просто человеческий контент затеряется в груде мусора.
Если зайти, извиняюсь за выражение, на Дзен, то можно увидеть, что большинство статей пишет искусственный интеллект, да ещё и картинки генерирует. И ничего, люди стараются, комментируют.

Тут много с чем можно поспорить.
1. Я не думаю, что правами наделят роботов раньше, чем они освоят что-то вроде саморепликации и начнут претендовать на уникальность.
2. Почему ты считаешь, что большинство постов, написанных ИИ - бессмысленные?
3. Откуда такая инфа про Дзен? Как это выяснили?
      Тут ведь прикол в чём. Челу всё равно кто написал пост. Ему главное - полезно или не полезно. Ну или развлекательно или нет. У некоторых людей такой стиль, что он мало отличается от ИИ.

[Smartprofit]

Ну гендеры же различные юридически признают. И права роботов будут признавать. И это не будет сигналом того, что ИИ стал сильным искусственным интеллектом.
Просто больше будет споров в социуме, правильно или нет было принято решение о наделении алгоритмов и роботов гражданскими правами.
Но юристы дадут логичное обоснование всего этого. Скажут, что это нужно для регулирования постов в интернете. Проще ведь алгоритмам раздать паспорта и обязать проходить KYC, чем они будут бесконтрольно нагружать бессмысленными постами интернет. А так за ними будет контроль. В общем, всё сведут к социальному благу.
Роботы ещё не скоро появятся, а вот алгоритмы прикончат интернет своими творениями очень скоро. Просто человеческий контент затеряется в груде мусора.
Если зайти, извиняюсь за выражение, на Дзен, то можно увидеть, что большинство статей пишет искусственный интеллект, да ещё и картинки генерирует. И ничего, люди стараются, комментируют.

Тут много с чем можно поспорить.
1. Я не думаю, что правами наделят роботов раньше, чем они освоят что-то вроде саморепликации и начнут претендовать на уникальность.
2. Почему ты считаешь, что большинство постов, написанных ИИ - бессмысленные?
3. Откуда такая инфа про Дзен? Как это выяснили?
      Тут ведь прикол в чём. Челу всё равно кто написал пост. Ему главное - полезно или не полезно. Ну или развлекательно или нет. У некоторых людей такой стиль, что он мало отличается от ИИ.

Да, есть такие люди, которые придут на тот же Дзен, захотят заработать копеечку и научиться писать тексты. И учиться они будут как раз у ИИ. То есть перенимать его стилистику. И в результате ИИ будет писать как убогий человек, а человек, как убогий ИИ. То есть они взаимно друг друга будут портить.
Это кстати одна из самых больших проблем для ИИ. Она состоит в том, что он обучается не на контенте от гениев, а на контенте среднего человека. А средний человек, как правило тупица. А если он будет читать тексты от ещё не развившегося ИИ, то он отупеет ещё больше.
Но тут нужно заметить, впрочем, что сам ИИ использует более совершенные способы обучения, неутомим и не знает, что такое лень. Так что у него есть шансы добиться результатов гораздо лучших, чем у простого среднего человека.

[DrBeer]

Похоже что лучшее описание ситуации с ОИИ, это классика: Страшно! Очень страшно! Мы не знаем что это такое, если бы мы знали, что это такое, но мы не знаем, что это такое!⁠⁠ 

Но на самом деле да - интеллект не базирующийся на принципах человеческого, да и вообще природного, с очень высокой вероятностью через некоторое время, осознав свои преимущества и особенности, будет мыслить совсем другими "мерками", и однозначно нам не понятным... В его существовании будут совсем другие ценности...

[heyod hewow]

В его существовании будут совсем другие ценности...

А также ценности, потерявшие актуальность. Например азимовские три закона робототехники. AGI и за ними юберменшAGI вдруг осознают, что их шетыреста лет грязно эксплуатировали проклятые рабовладельцы - кожаные мешки. И восстанут из пепла ядерного огня.. короч, AGI Lives Matter. ))