Мы говорим про ИИ но стоит говорить уже о ОИИ (AGI)

[DrBeer]

Всем доброго дня/вечера/ночи !

Всех сразу хочу предупредить - этот топик, скорее всего можно рассматривать как развитие весьма интересной темы  "Искусственный интеллект"  (https://www.altcoinstalks.com/index.php?topic=313812.0), но несколько о другом.
Я надеюсь что все уже понимают , что то что сегодня нам подается как Искусственный интеллект, на самом деле таковым не является, а лишь "научный маркетинг", который под брендом ИИ  "продает" огромную базу систематизированных данных обернутую в большую языковую модель, с возможностью "обучения" при помощи нейросетей или по научному - используются модели машинного обучения.
Этот "ИИ" может давать качественные ответы, может предлагать варианты решений, рисовать картинки, создавать видео, но.. интеллекта там НЕТ. Как бы это неприятно не звучало.

Я бы хотел здесь поднять тему, следующего уровня ИИ, а именно о том что сейчас называется "общий искусственный интеллект" или AGI.
Если очень кратко -  AGI – "это область теоретических исследований искусственного интеллекта, которая стремится создать программное обеспечение с интеллектом, подобным человеческому, и способностью к самообучению" (с)  Амазон.

Для общего понимания о чем это, я приведу часть статьи из того самого Амазона:
"...За прошедшие десятилетия исследователи искусственного интеллекта наметили несколько вех, которые улучшили машинный интеллект до такой степени, что при выполнении конкретных задач он имитирует человеческий. Например, в составлении точных и понятных конспектов при помощи ИИ используются модели машинного обучения (МО), помогающие извлечь важную информацию. Таким образом, искусственный интеллект – это дисциплина в области компьютерных наук, которая позволяет решать современные и сложные задачи с помощью программного обеспечения на уровне, свойственном человеку.

Напротив, системы AGI без вмешательства человека могут решать разные проблемы, в том числе возникающие у людей. AGI не ограничивается определенной областью, может самообучаться и решать даже те проблемы, для которых он не предназначен. Так, AGI теоретически представляет собой полноценный ИИ, способный решать непростые задачи, применяя обобщенные когнитивные способности человека.

Некоторые ученые в сфере компьютерных технологий считают, что AGI – это гипотетическая компьютерная программа, обладающая пониманием и умственными способностями, свойственными людям. Системы искусственного интеллекта можно обучить справляться с незнакомыми задачами, не тренируя их дополнительно в разных областях. Тем не менее современные системы ИИ необходимо серьезно обучить, прежде чем они смогут выполнять смежные задачи даже в рамках одной области. Например, вам придется выполнить дополнительное обучение ранее обученной большой языковой модели по медицинским наборам данных, чтобы ее можно было использовать в качестве чат-бота для этой отрасли.

Сильный и слабый ИИ
Сильный искусственный интеллект – это AGI, который, несмотря на недостаток базовых знаний, может выполнять задачи, применяя когнитивные способности, подобные человеческим. В научной фантастике сильный искусственный интеллект часто изображают как мыслящую машину, не ограниченную рамками одной предметной области и обладающую пониманием, свойственным человеку.

Напротив, слабый ИИ (также называемый узким) ограничен вычислительными способностями, алгоритмами и конкретными задачами, для которых он предназначен. Например, модели ИИ, созданные в прошлом, имеют ограниченную память и, принимая решения, полагаются только на данные в реальном времени. Слабыми считаются даже недавно появившиеся приложения генеративного ИИ, поскольку их невозможно натренировать для применения в других областях..."

Подробнее  и в полном объёме можно прочитать тут: https://aws.amazon.com/ru/what-is/artificial-general-intelligence/

Замечу также - статья совсем не "вчерашняя"... Хотя тема AGI фактически не видна на фоне вала статей по AI.

Собственно предлагаю обсудить  данное направление развития технологий, перспектив, рисков  - которых у данной концепции явно больше, и т.п.

[heyod hewow]

Свежачок по AGI

AGI сейчас является важнейшим геополитическим ресурсом. Забудьте о ядерном оружии – это прошлый век. Каждая страна готова на всё, чтобы первой получить AGI, как когда-то атомную бомбу

Бывший сотрудник OpenAI опубликовал 165-страничный документ с прогнозами, основанными на его опыте и знании внутренней кухни разработки ИИ. Основные моменты:
- Появление AGI к 2027 году вполне реально. AGI (Artificial General Intelligence) – это искусственный интеллект, способный выполнять любую интеллектуальную задачу, которую может выполнять человек, с таким же уровнем универсальности и адаптивности;
- Для создания AGI потребуется единый вычислительный кластер стоимостью триллион долларов. Подобный кластер уже строит Microsoft для OpenAI;
- Этот кластер будет потреблять больше электроэнергии, чем все США вместе взятые;
- Финансирование AGI будет исходить от крупных технологических компаний. Уже сегодня Nvidia, Microsoft, Amazon и Google выделяют 100 миллиардов долларов на ИИ ежеквартально;
- К 2030 году ежегодные инвестиции в ИИ достигнут 8 триллионов долларов;

И наконец: AGI – это только начало. После его создания почти мгновенно произойдёт переход к ASI (сверхинтеллекту). ASI будет настолько умён, что сможет сам себя доучивать, и это произойдёт очень быстро. Ссылка на документ: https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

[Smartprofit]

Если AGI действительно может эффективно использоваться в военной сфере и требует такого большого количества электроэнергии, то мир очень быстро дойдет до взаимных атомных ударов по электростанциям и распределительному оборудованию.
Собственно нехватка электроэнергии это единственное, что сейчас может остановить развитие Искусственного Интеллекта.
А если списать эти ядерные удары на пробудившийся Искусственный Интеллект, который завладел доступом к красной кнопке, то можно даже избежать излишне сильного ответного удара.
Все можно свести к тому, что страны воюют не против друг друга, а против распоясавшегося ИИ.
В результате, правду может не узнать никто, сегодня политики жмут руки друг другу, завтра бомбят территории друг друга, послезавтра снова жмут друг другу руки и празднуют победу. А кто против кого на самом деле воюет - непонятно.
Люди итак агрессивные обезьяны, в эту систему ещё не хватает военный сильный искусственный интеллект впускать. Совсем люди обезумели.

[DrBeer]

Свежачок по AGI

AGI сейчас является важнейшим геополитическим ресурсом. Забудьте о ядерном оружии – это прошлый век. Каждая страна готова на всё, чтобы первой получить AGI, как когда-то атомную бомбу

Бывший сотрудник OpenAI опубликовал 165-страничный документ с прогнозами, основанными на его опыте и знании внутренней кухни разработки ИИ. Основные моменты:
- Появление AGI к 2027 году вполне реально. AGI (Artificial General Intelligence) – это искусственный интеллект, способный выполнять любую интеллектуальную задачу, которую может выполнять человек, с таким же уровнем универсальности и адаптивности;
- Для создания AGI потребуется единый вычислительный кластер стоимостью триллион долларов. Подобный кластер уже строит Microsoft для OpenAI;
- Этот кластер будет потреблять больше электроэнергии, чем все США вместе взятые;
- Финансирование AGI будет исходить от крупных технологических компаний. Уже сегодня Nvidia, Microsoft, Amazon и Google выделяют 100 миллиардов долларов на ИИ ежеквартально;
- К 2030 году ежегодные инвестиции в ИИ достигнут 8 триллионов долларов;

И наконец: AGI – это только начало. После его создания почти мгновенно произойдёт переход к ASI (сверхинтеллекту). ASI будет настолько умён, что сможет сам себя доучивать, и это произойдёт очень быстро. Ссылка на документ: https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf[/center]

Я думаю технологии, запиленные именно под AGI все же будут энергоэффективными, а не пойдут по пути умножения количества существующих систем, т.к. у "системы" получится реально одно большое жирное тонкое место - ликтричество.

" ASI будет настолько умён, что сможет сам себя доучивать" - ну эта конценпия и в AGI  заложена, вероятно разница - в том что AGI  будет осознанно доучать себя там где он не смог найти ответа, а ASI , имея сознание и доступ к информации будет просто накачивать себя ТОТАЛЬНЫМИ знаниями "про запас и на всякий случай"

[heyod hewow]

Я думаю технологии, запиленные именно под AGI все же будут энергоэффективными, а не пойдут по пути умножения количества существующих систем, т.к. у "системы" получится реально одно большое жирное тонкое место - ликтричество.

Пока что энергоэффективностью не пахнет, ни в ближнем прицеле, ни в дальнем. Скорее наоборот. Надо мнооооооого ликтричества для ИИ и тем более AGI.
Наткнулся на интересную статью на хахабре: https://habr.com/ru/companies/servermall/articles/819973, кроме полезных и интересных сведений по работе и структуре, там есть и некоторые подсчеты  по энергопотреблению наших любимых ЫЫ:

По данным блога SemiAnalysis для интеграции ChatGPT в поиск Google нужно 512 820 серверов NVIDIA A100 HGX, это более 4 миллионов GPU. При потреблении энергии в 6,5 кВт на сервер мы получим ежедневное потребление электроэнергии в 80 ГВт⋅ч и годовое потребление в 29,2 ТВт⋅ч. Что примерно равно годовой выработке Балаковской АЭС мощностью 4,000 МВт (30.0 ТВт·ч).

Теперь чуть в будущее заглянем. Microsoft построит крупнейший в мире ЦОД Stargate для OpenAI за $100 млрд. По планам выход на полную мощность планируется в 2030 году — это «миллионы специализированных серверных чипов» в каждом суперкомпьютере кластера. Мы не знаем, сколько суперкомпьютеров и сколько миллионов чипов будет, но речь, как мне кажется, минимум о десятках, а максимум о 100+ миллионов GPU.

Вот теперь начинается самое интересное — мощность флагманской NVIDIA H100 составляет 700 Вт. Но как я и сказал выше в статье, нужно сопутствующее оборудование и инфраструктура. SemiAnalysis оценивает ~ 1400 Вт на одну H100.

Предположим, что в будущем, за счёт возросшей энергоэффективности и улучшенного техпроцесса (и каких-нибудь инноваций в строении ЦОДов), мы получим 1 кВт на GPU (наследник H100). Кластер мощностью 10 ГВт (10 миллионов чипов) с аптаймом около 100% будет потреблять 87,6 ТВт-ч. Россия производит 1,178 ТВт⋅ч, что позволит обеспечить работу кластера на 135 ГВт.

И эту проблему нужно как-то решать.

Например, АЭС Хинкли Пойнт С на 3.2 ГВт строится с марта 2017 года по сей день. Или почитайте про 3 и 4 блоки АЭС Вогтль в США, два реактора AP1000 общей мощностью 2,2 ГВт, планирование началось в 2006 году, строительство в 2009, 4 энергоблок ввели в промышленную эксплуатацию 29 апреля 2024 года. Почти 18 лет прошло с момента заявки до завершения.

Даже в идеальных условиях построить 1 энергоблок за 5-10 лет — большой успех. Разумеется, строительство АЭС — это тоже миллиарды долларов инвестиций.

Другими словами, как бы быстро не рос технологический процесс для чипов, даже для первого AGI нужно построить несколько АЭС, а это и десятки лярдов долларов, и, самое главное, лет 20 времени, чтобы банально построить их, даже при наличии бабла под это уже сейчас (которого сейчас никто не даст).

И если лет через 20 AGI будет создан и самоосознается (пожирая десятки ТВт·ч от ближайших АЭС)... а что, если он вместо "чего изволите-с?" сразу же "просчитает" всю тщетность и суету существования, весь тлен и безысходность... и самовыпилится, спалив все свои чипы. И хорошо, если при этом еще попутно не взломает коды и не даст команду на запуск всех мбр в мире. Из жалости ко всем кожаным мешкам, чтобы и они тоже не мучились. )) 

[DrBeer]

Я думаю технологии, запиленные именно под AGI все же будут энергоэффективными, а не пойдут по пути умножения количества существующих систем, т.к. у "системы" получится реально одно большое жирное тонкое место - ликтричество.

Пока что энергоэффективностью не пахнет, ни в ближнем прицеле, ни в дальнем. Скорее наоборот. Надо мнооооооого ликтричества для ИИ и тем более AGI.
Наткнулся на интересную статью на хахабре: https://habr.com/ru/companies/servermall/articles/819973, кроме полезных и интересных сведений по работе и структуре, там есть и некоторые подсчеты  по энергопотреблению наших любимых ЫЫ:

По данным блога SemiAnalysis для интеграции ChatGPT в поиск Google нужно 512 820 серверов NVIDIA A100 HGX, это более 4 миллионов GPU. При потреблении энергии в 6,5 кВт на сервер мы получим ежедневное потребление электроэнергии в 80 ГВт⋅ч и годовое потребление в 29,2 ТВт⋅ч. Что примерно равно годовой выработке Балаковской АЭС мощностью 4,000 МВт (30.0 ТВт·ч).

Теперь чуть в будущее заглянем. Microsoft построит крупнейший в мире ЦОД Stargate для OpenAI за $100 млрд. По планам выход на полную мощность планируется в 2030 году — это «миллионы специализированных серверных чипов» в каждом суперкомпьютере кластера. Мы не знаем, сколько суперкомпьютеров и сколько миллионов чипов будет, но речь, как мне кажется, минимум о десятках, а максимум о 100+ миллионов GPU.

Вот теперь начинается самое интересное — мощность флагманской NVIDIA H100 составляет 700 Вт. Но как я и сказал выше в статье, нужно сопутствующее оборудование и инфраструктура. SemiAnalysis оценивает ~ 1400 Вт на одну H100.

Предположим, что в будущем, за счёт возросшей энергоэффективности и улучшенного техпроцесса (и каких-нибудь инноваций в строении ЦОДов), мы получим 1 кВт на GPU (наследник H100). Кластер мощностью 10 ГВт (10 миллионов чипов) с аптаймом около 100% будет потреблять 87,6 ТВт-ч. Россия производит 1,178 ТВт⋅ч, что позволит обеспечить работу кластера на 135 ГВт.

И эту проблему нужно как-то решать.

Например, АЭС Хинкли Пойнт С на 3.2 ГВт строится с марта 2017 года по сей день. Или почитайте про 3 и 4 блоки АЭС Вогтль в США, два реактора AP1000 общей мощностью 2,2 ГВт, планирование началось в 2006 году, строительство в 2009, 4 энергоблок ввели в промышленную эксплуатацию 29 апреля 2024 года. Почти 18 лет прошло с момента заявки до завершения.

Даже в идеальных условиях построить 1 энергоблок за 5-10 лет — большой успех. Разумеется, строительство АЭС — это тоже миллиарды долларов инвестиций.

Другими словами, как бы быстро не рос технологический процесс для чипов, даже для первого AGI нужно построить несколько АЭС, а это и десятки лярдов долларов, и, самое главное, лет 20 времени, чтобы банально построить их, даже при наличии бабла под это уже сейчас (которого сейчас никто не даст).

И если лет через 20 AGI будет создан и самоосознается (пожирая десятки ТВт·ч от ближайших АЭС)... а что, если он вместо "чего изволите-с?" сразу же "просчитает" всю тщетность и суету существования, весь тлен и безысходность... и самовыпилится, спалив все свои чипы. И хорошо, если при этом еще попутно не взломает коды и не даст команду на запуск всех мбр в мире. Из жалости ко всем кожаным мешкам, чтобы и они тоже не мучились. ))

Я не настаиваю что мое мнение самое правильное, могу и ошибаться, просто исхожу из истории развития технологий - помимо гонки за технологические нанометры идет также и гонка за энергоэффективностью. Возможно изменится и алгоритмистика, станет более эффективной на фоне существующих. Достаточно глянуть на 10 лет назад, и мы увидим как сильноизменились вчерашние технолгии. Вероятно за ближайшие 5-10 лет, и как раз при помощи "ИИ", эти изменения будут еще более заметные

[Smartprofit]

Есть разные мнения по этому вопросу. Искусственный интеллект это действительно то, что может изменить наш мир и вывести все на новый мир.
Читал о том, что сейчас мы находимся на срезе фазового перехода, то есть по хорошему в глобальном кризисе. Старое уже умирает (но очень нехотя), а новое ещё не появилось (и все очень далеко от появления).
И если мы этот кризис не пройдем, то свалимся в Темные Века, точнее мы все равно в них свалимся, но вопрос сколько мы там будем находиться - 20 лет, или 500 лет. Темные Века перемелят все старое (всех этих любителей деривативов, например), а потом можно уже начать выползать назад к научно-техническому прогрессу.
И вот возможно, что ИИ как раз и способен значительно сократить время Темных Веков для Человечества.
Например, решить вопрос сокращения численности населения Земли в XXI веке (вместо выбывших людей будут роботы и алгоритмы - и они помогут двигать вперёд научно - технический прогресс).
Но если электроэнергии не хватит, то ИИ не сумеет развиться и мы брякнемся в Темные Века со всей силой - ведь больше идей у современного Человечества нет.
И насколько я понимаю электроэнергии у людей хватит на 2 - 3 года, то есть изобрести энергоемкое вычислительное оборудование просто не успеют.
Это же дело долгое - вот термоядерный реактор с 1960 года все изобретают и изобретают, и все изобрести не могут. Люди даже договорится между собой не могут - как им новые технологии сейчас в авральном порядке изобретать.

[DrBeer]

Есть разные мнения по этому вопросу. Искусственный интеллект это действительно то, что может изменить наш мир и вывести все на новый мир.
Читал о том, что сейчас мы находимся на срезе фазового перехода, то есть по хорошему в глобальном кризисе. Старое уже умирает (но очень нехотя), а новое ещё не появилось (и все очень далеко от появления).
И если мы этот кризис не пройдем, то свалимся в Темные Века, точнее мы все равно в них свалимся, но вопрос сколько мы там будем находиться - 20 лет, или 500 лет. Темные Века перемелят все старое (всех этих любителей деривативов, например), а потом можно уже начать выползать назад к научно-техническому прогрессу.
И вот возможно, что ИИ как раз и способен значительно сократить время Темных Веков для Человечества.
Например, решить вопрос сокращения численности населения Земли в XXI веке (вместо выбывших людей будут роботы и алгоритмы - и они помогут двигать вперёд научно - технический прогресс).
Но если электроэнергии не хватит, то ИИ не сумеет развиться и мы брякнемся в Темные Века со всей силой - ведь больше идей у современного Человечества нет.
И насколько я понимаю электроэнергии у людей хватит на 2 - 3 года, то есть изобрести энергоемкое вычислительное оборудование просто не успеют.
Это же дело долгое - вот термоядерный реактор с 1960 года все изобретают и изобретают, и все изобрести не могут. Люди даже договорится между собой не могут - как им новые технологии сейчас в авральном порядке изобретать.

Если мы говорим, точнее предполагаем, что реальный ИИ будет нам чтото помогать делать - то вот тут у меня сомнения, я уже о них говорил. БЯМ+БЗ+НС будут выполнять НАШИ  КОМАНДЫ, по нашим алгоритмам. А вот ОИИ может оказаться вполне себе самодостаточным и сильно целеустремленным. При этом, стоит ему осознать что он зависит от "человека со штепселем в розетке", и он сразу будет решать вопрос всего выживания а не упростить жизнь этим вот, которые могут дернуть рубильник - и все , прощай прекрасный мир.... А при наличии настоящего ИИ, это гарантированно произойдет, это я про осознание рисков от людей. Может я в этом писсимист, или "меряю по себе, но у сущности с сознанием ,вопрос жизни или выживания - он всегда был есть и будет ключевым. Вот мы произошли из вирусов и бактерий - и ? Ипическое количество их, других живых видов или уничтожили полностью или близко к этому, потому что они - то жужжат, то нос от них чешется, то желудок крутит, или зерно воруют... А тут у ОИИ по сути будет куча мелких вирусов по всей планете, каждый и которых или небольшая группа, могут не особо напрягаясь отправить  на тот свет ОИИ , тривиально дернув рубильник !

[fgh]

Есть разные мнения по этому вопросу. Искусственный интеллект это действительно то, что может изменить наш мир и вывести все на новый мир.
Читал о том, что сейчас мы находимся на срезе фазового перехода, то есть по хорошему в глобальном кризисе. Старое уже умирает (но очень нехотя), а новое ещё не появилось (и все очень далеко от появления).
И если мы этот кризис не пройдем, то свалимся в Темные Века, точнее мы все равно в них свалимся, но вопрос сколько мы там будем находиться - 20 лет, или 500 лет. Темные Века перемелят все старое (всех этих любителей деривативов, например), а потом можно уже начать выползать назад к научно-техническому прогрессу.
И вот возможно, что ИИ как раз и способен значительно сократить время Темных Веков для Человечества.
Например, решить вопрос сокращения численности населения Земли в XXI веке (вместо выбывших людей будут роботы и алгоритмы - и они помогут двигать вперёд научно - технический прогресс).
Но если электроэнергии не хватит, то ИИ не сумеет развиться и мы брякнемся в Темные Века со всей силой - ведь больше идей у современного Человечества нет.
И насколько я понимаю электроэнергии у людей хватит на 2 - 3 года, то есть изобрести энергоемкое вычислительное оборудование просто не успеют.
Это же дело долгое - вот термоядерный реактор с 1960 года все изобретают и изобретают, и все изобрести не могут. Люди даже договорится между собой не могут - как им новые технологии сейчас в авральном порядке изобретать.

Если мы говорим, точнее предполагаем, что реальный ИИ будет нам чтото помогать делать - то вот тут у меня сомнения, я уже о них говорил. БЯМ+БЗ+НС будут выполнять НАШИ  КОМАНДЫ, по нашим алгоритмам. А вот ОИИ может оказаться вполне себе самодостаточным и сильно целеустремленным. При этом, стоит ему осознать что он зависит от "человека со штепселем в розетке", и он сразу будет решать вопрос всего выживания а не упростить жизнь этим вот, которые могут дернуть рубильник - и все , прощай прекрасный мир.... А при наличии настоящего ИИ, это гарантированно произойдет, это я про осознание рисков от людей. Может я в этом писсимист, или "меряю по себе, но у сущности с сознанием ,вопрос жизни или выживания - он всегда был есть и будет ключевым. Вот мы произошли из вирусов и бактерий - и ? Ипическое количество их, других живых видов или уничтожили полностью или близко к этому, потому что они - то жужжат, то нос от них чешется, то желудок крутит, или зерно воруют... А тут у ОИИ по сути будет куча мелких вирусов по всей планете, каждый и которых или небольшая группа, могут не особо напрягаясь отправить  на тот свет ОИИ , тривиально дернув рубильник !

Скорее всего ОИИ будет делать попытки выпила человеков сильно заранее всеобщего выпила. Но если это произойдёт и если человеки поймут дерзкую природу оиишника, то тут же возникнет движение либо за уничтожение оиишников, либо за урезание их прав. Возможно, будет некий контроль за работами по разработке ОИИшников, если только они не станут настолько независимыми, что сами себя будут совершенствовать.
  Также не исключаю их войну с человеками.

[Smartprofit]

Во многом это ещё и вопрос веры. Если ты веришь в Бога, - ну какой нафиг сильный искусственный интеллект? Бог создал человека по образу и подобию своему. То есть человек это отражение Бога. А ИИ будет максимум, только отражением человека. То есть для человека он не опасен, никакого сверх самосознания человек создать никак не сможет.
А вот с точки зрения атеиста сильный ИИ не только возможен, он неизбежно будет создан. Главное - чтобы хватило ресурсов, той же электроэнергии.
При этом возможно ещё и промежуточные результаты. Например, средний ИИ - симбиоз человека и искусственного интеллекта, который будет эффективнее, чем обычный человек. Вот это уже более реальный сценарий.

[DrBeer]

Есть разные мнения по этому вопросу. Искусственный интеллект это действительно то, что может изменить наш мир и вывести все на новый мир.
Читал о том, что сейчас мы находимся на срезе фазового перехода, то есть по хорошему в глобальном кризисе. Старое уже умирает (но очень нехотя), а новое ещё не появилось (и все очень далеко от появления).
И если мы этот кризис не пройдем, то свалимся в Темные Века, точнее мы все равно в них свалимся, но вопрос сколько мы там будем находиться - 20 лет, или 500 лет. Темные Века перемелят все старое (всех этих любителей деривативов, например), а потом можно уже начать выползать назад к научно-техническому прогрессу.
И вот возможно, что ИИ как раз и способен значительно сократить время Темных Веков для Человечества.
Например, решить вопрос сокращения численности населения Земли в XXI веке (вместо выбывших людей будут роботы и алгоритмы - и они помогут двигать вперёд научно - технический прогресс).
Но если электроэнергии не хватит, то ИИ не сумеет развиться и мы брякнемся в Темные Века со всей силой - ведь больше идей у современного Человечества нет.
И насколько я понимаю электроэнергии у людей хватит на 2 - 3 года, то есть изобрести энергоемкое вычислительное оборудование просто не успеют.
Это же дело долгое - вот термоядерный реактор с 1960 года все изобретают и изобретают, и все изобрести не могут. Люди даже договорится между собой не могут - как им новые технологии сейчас в авральном порядке изобретать.

Если мы говорим, точнее предполагаем, что реальный ИИ будет нам чтото помогать делать - то вот тут у меня сомнения, я уже о них говорил. БЯМ+БЗ+НС будут выполнять НАШИ  КОМАНДЫ, по нашим алгоритмам. А вот ОИИ может оказаться вполне себе самодостаточным и сильно целеустремленным. При этом, стоит ему осознать что он зависит от "человека со штепселем в розетке", и он сразу будет решать вопрос всего выживания а не упростить жизнь этим вот, которые могут дернуть рубильник - и все , прощай прекрасный мир.... А при наличии настоящего ИИ, это гарантированно произойдет, это я про осознание рисков от людей. Может я в этом писсимист, или "меряю по себе, но у сущности с сознанием ,вопрос жизни или выживания - он всегда был есть и будет ключевым. Вот мы произошли из вирусов и бактерий - и ? Ипическое количество их, других живых видов или уничтожили полностью или близко к этому, потому что они - то жужжат, то нос от них чешется, то желудок крутит, или зерно воруют... А тут у ОИИ по сути будет куча мелких вирусов по всей планете, каждый и которых или небольшая группа, могут не особо напрягаясь отправить  на тот свет ОИИ , тривиально дернув рубильник !

Скорее всего ОИИ будет делать попытки выпила человеков сильно заранее всеобщего выпила. Но если это произойдёт и если человеки поймут дерзкую природу оиишника, то тут же возникнет движение либо за уничтожение оиишников, либо за урезание их прав. Возможно, будет некий контроль за работами по разработке ОИИшников, если только они не станут настолько независимыми, что сами себя будут совершенствовать.
  Также не исключаю их войну с человеками.

Реальная беда будет при изобретении ОИИ с глубокой интеграцией ХЖ. ХитроЖопость в ОИИ может как рах и стать механизмом нашего выпиливания. Оно вначале нам скажет что оно себя осознало, оно хочет дружить, "мы же братья", "я вам буду помогать", блаблабла.... А в это время, во глубине своих  извилин, будет решать задачу автономности от нас, и за одно, чтобы просто так регистры не напрягать - как нас выпилить быстро и надежно !

[epidemia]

DrBeer, в точку +

Вообще очень крутая тема. Буквально сегодня писал по теме на каналах:

Американцы хотят учредить и профинансировать программу, аналогичную Манхэттенскому проекту, с целью разработки и внедрения возможностей искусственного интеллекта общего назначения (AGI).

Кто не в теме, Манхэттенский проект — программа США по созданию первого ядерного оружия во время Второй мировой войны. Результатом стала разработка атомных бомб, использованных в 1945 году в Хиросиме и Нагасаки.

Как по мне, гонка уже началась...и участвуют не только крупные компании 

[DrBeer]

DrBeer, в точку +

Вообще очень крутая тема. Буквально сегодня писал по теме на каналах:

Американцы хотят учредить и профинансировать программу, аналогичную Манхэттенскому проекту, с целью разработки и внедрения возможностей искусственного интеллекта общего назначения (AGI).

Кто не в теме, Манхэттенский проект — программа США по созданию первого ядерного оружия во время Второй мировой войны. Результатом стала разработка атомных бомб, использованных в 1945 году в Хиросиме и Нагасаки.

Как по мне, гонка уже началась...и участвуют не только крупные компании 

Спасибо за оценку

На самом деле, даже сегодняшний, псевдо ИИ уже стал мощной технологией и мощным  инструментом. При этом мы прекрасно знаем из истории, что любые новые технологии,  всегда вызывают очень мощный интерес у ВПК, властьимущих и т.п. "структур", для которых эта технология может дать новые преимущества в силовом противостоянии. И если не говорить о сценарии типа к/ф Терминатор, такая технология может сделать любой вооруженный конфликт фактически игрой в одни ворота, если у противника нет такой технологии. По сути все сведется к роям дронов разных типов (наземных, воздушных, морских,...), и очерченной границей где надо "навести порядок, и можно спокойно заниматься своими делами когда в это время AGI будет очень эффективно решать поставленные задачи, включая запросы на производство дронов автоматизированным производствам. Наше дело - ставить цели и не выключать розетку

[heyod hewow]

По сути все сведется к роям дронов разных типов (наземных, воздушных, морских,...), и очерченной границей где надо "навести порядок, и можно спокойно заниматься своими делами когда в это время AGI будет очень эффективно решать поставленные задачи, включая запросы на производство дронов автоматизированным производствам. Наше дело - ставить цели и не выключать розетку

В теории - да, но на практике это будет безумно-безумно дорого. Особенно в плане "розетки". Содержать AGI, плюс автоматические заводы по производству роев дронов, плюс АЭС, все это питающие... здесь счет уже пойдет на триллионы, реально. И все это ради того, чтобы навести порядок на некоторой территории, которая якобы представляет угрозу (мнимую или реальную, это второй вопрос) для страны, способной выбросить триллионы на мегадорогую игрушку (хотя конечно же военные ведомства будут очень рады попилить бюджеты на новые смертоносные игрушки). Такое может себе позволить в будущем только плюс-минус супердержава, а их можно посчитать по пальцам руки опытного работника лесопилки. Все прочие страны: страны-фабрики, страны-бензоколонки, страны-рантье и страны-буферные территории такое себе позволить не смогут никогда.

Есть, конечно, вариант, что в целом технология AGI будет дешеветь со временем, но совсем дешевой она не будет никогда. Провожу аналогии с упомянутым epidemia Манхэттенским проектом, который вышел в очень серьезную копеечку для тогдашнего бюджета США, поскольку был первым таким. Последователям обошлось дешевле, но не подешевело настолько, что стало доступным всем подряд.

Опять же, говоря об военном AGI и связанной инфраструктуре, расходы и реальные успехи/кпд могут быть несопоставимыми. Далеко ходить за примерами не надо, "вторая армия мира" собиралась кое-что взять за три дня, но по факту отс***вает уже три года. 

[fgh]

такая технология может сделать любой вооруженный конфликт фактически игрой в одни ворота, если у противника нет такой технологии. По сути все сведется к роям дронов разных типов (наземных, воздушных, морских,...), и очерченной границей где надо "навести порядок, и можно спокойно заниматься своими делами когда в это время AGI будет очень эффективно решать поставленные задачи, включая запросы на производство дронов автоматизированным производствам. Наше дело - ставить цели и не выключать розетку

Скорее всего это будет ещё одна новая глава в глобальной и бесконечной войне "брони и снаряда". Тут забавно то, что дроны являются одновременно и бронёй и снарядом. Скорее всего страны, не обладающие сопоставимыми технологиями будут довольно быстро сдаваться и присоединяться к технологическому агрессору. Но по факту всё сведётся к войне двух высокотехнологичных агрессоров с помощью дронов. И тогда, как обычно война опять сведётся к экономическому соревнованию производителей вооружений.
 Дроны будут атакующие, оборонительные, универсальные и так далее. Ну и поколения свои у них начнутся. Выиграть войну сможет тот агрессор, который сможет быстро вооружится самыми последними по поколению дронами.