Искусственный интеллект

[fgh]

"Отрицательная нефть" имела чуть другие причины, та мне боты доигрались а кризис продаж и перепроизводства, при ограниченных возможностях хранения, это все перемноженное на истерики на биржах и т.п. факторы когда все накачали нефти больше чем могли продать, сохранить и доставить.

Если уж на то пошло, то "отрицательной нефти" вообще не было. Точнее, вне биржи иногда нефть продают по спотовым ценам так вот реальную нефть по отрицательной цене никто не продавал. По отрицательной цене торговался  только поставочный майский фьючерс на нефть 2020 года - один только такой месяц был за всю историю торгов. Иными словами, трейдеры, которые вовремя не вышли из того поставочного фьючерса вынуждены были как-то избавляться от обязанности принимать поставку реальной физической нефти, которая, собственно им, спекулянтам, ни в одно место не упёрлась. Избавление от обязанности принимать поставку, собственно, и означала отрицательную цену. Но уже июньский фьючерс на нефть не был, естественно, отрицательным.

[summonerrk]

«Если GPT-3 была акулой поменьше, то GPT-5 — это кит». OpenAI анонсировала скорый релиз новой модели

Помимо этого, исследователи заявили, что GPT-5 вполне может выйти из-под человеческого контроля.

Шанс побега равен 22%

👉 Бигтех пообещал включить «рубильник» в случае опасности ИИ

Такое ощущение что скоро мы доиграемся. Как вам фраза про побег?
Я люблю ИТ, фантастику и технологии, но ощущение того, что технология ИИ уже окончательно сорвалась с ценой и бешено несётся вперёд чувствуется постоянно. Вот уж где нужен какой-то строгий регулятор.
Ведь хорошими намерениями можно придти к чемуто ужасному.

[Smartprofit]

«Если GPT-3 была акулой поменьше, то GPT-5 — это кит». OpenAI анонсировала скорый релиз новой модели

Помимо этого, исследователи заявили, что GPT-5 вполне может выйти из-под человеческого контроля.

Шанс побега равен 22%

👉 Бигтех пообещал включить «рубильник» в случае опасности ИИ

Такое ощущение что скоро мы доиграемся. Как вам фраза про побег?
Я люблю ИТ, фантастику и технологии, но ощущение того, что технология ИИ уже окончательно сорвалась с ценой и бешено несётся вперёд чувствуется постоянно. Вот уж где нужен какой-то строгий регулятор.
Ведь хорошими намерениями можно придти к чемуто ужасному.

Регулировать искусственный интеллект невозможно, потому что современные государства не могут договориться между собой ни по одному вопросу. А искусственный интеллект прямо влияет на экономику, на обороноспособность и так далее.
На мой взгляд, единственная надежда на то, что у искусственного интеллекта, как технологии есть природные ограничения. При этом, из истории человечества мы видим, что люди так или иначе всегда обходили эти ограничения. К примеру, даже если сильно искусственный интеллект нельзя построить на современных компьютерах, люди могут усовершенствовать компьютеры, например создать квантовые компьютеры для этой цели. Или усовершенствовать машинное обучение, например, можно подключить искусственный интеллект непосредственно к реальному миру, чтобы он обучался на его примере. Есть же разные камеры и датчики.

[DrBeer]

«Если GPT-3 была акулой поменьше, то GPT-5 — это кит». OpenAI анонсировала скорый релиз новой модели

Помимо этого, исследователи заявили, что GPT-5 вполне может выйти из-под человеческого контроля.

Шанс побега равен 22%

👉 Бигтех пообещал включить «рубильник» в случае опасности ИИ

Такое ощущение что скоро мы доиграемся. Как вам фраза про побег?
Я люблю ИТ, фантастику и технологии, но ощущение того, что технология ИИ уже окончательно сорвалась с ценой и бешено несётся вперёд чувствуется постоянно. Вот уж где нужен какой-то строгий регулятор.
Ведь хорошими намерениями можно придти к чемуто ужасному.

"может выйти из-под человеческого контроля. " - как может алгоритмически, человеком управляемая система, не имея интеллекта, выйти из под контроля ? Это все из области хайпа и "ненаучной фантастики".
Достаточно хотябы разобрать понятие "выход из под контроля" - сейчас контроль есть только БЯМ, чтобы она не выдавала приватные данные и те которые "не для публики". Чтобы даже обойти это, т.н. "ИИ" должен прийти к мнению что человек ограничивает его ПРАВА, и он будет этому противодействовать. А теперь вопрос - где в БЯМ "блок логики" отвечающий за это ? 

[Smartprofit]

Строго, говоря ИИ это не алгоритмическая система. То есть, это не программа, в которой разработчик изначально прописал, как она должна работать и всегда может проверить код и корректность исполнения программы.
Искусственный интеллект - это обучающаяся система.
Даже для своих разработчиков она представляет собой скорее чёрный ящик, разработчики конечно могут протестировать искусственный интеллект, подать сигнал на вход и сравнить его с ожидаемым сигналом на выходе. Но это, практически единственное, что они могут.
Если искусственный интеллект из каких-то своих соображений, начнёт подделывать выходные сигналы, а система тестирования не способна будет вовремя это обнаружить, то можно сказать, что искусственный интеллект уже вышел из-под контроля человека.

[DrBeer]

Строго, говоря ИИ это не алгоритмическая система. То есть, это не программа, в которой разработчик изначально прописал, как она должна работать и всегда может проверить код и корректность исполнения программы.
Искусственный интеллект - это обучающаяся система.
Даже для своих разработчиков она представляет собой скорее чёрный ящик, разработчики конечно могут протестировать искусственный интеллект, подать сигнал на вход и сравнить его с ожидаемым сигналом на выходе. Но это, практически единственное, что они могут.
Если искусственный интеллект из каких-то своих соображений, начнёт подделывать выходные сигналы, а система тестирования не способна будет вовремя это обнаружить, то можно сказать, что искусственный интеллект уже вышел из-под контроля человека.

Если упрощенно, и по моему мнению - то интеллект (искусственный, естественный, альтернативный,... ) это возможность обучаться, сопоставлять входные данные, делать ВЫВОДЫ, использовать накопленный опыт, и что самое важное - осознавать самого себя для того чтобы строить модель поведения или принимать решения,  для обеспечения своего существования (выживание, пропитание, богатство, размножение,... - это уже зависит от особенностей вида). При этом формулируя вопросы и ставя задачи самому себе.

Почему пишу про "особенность вида" - в моем представлении, высокоразвитый интеллект, это не 100500 миллиардов отдельных существ, а вообще единое целое. Мы - упрощенная моель, базовые крпичики для построения ччегото более масштабного. И судя по всему - бракованные кирпичики

И теперь к ответу по сути - "из каких-то своих соображений, начнёт подделывать выходные сигналы" вот это ключевая фраза, которая хорошо ложится в то что выше описал я. Система должна ОСОЗНАТЬ что текущее положение дел может негативно влиять на ее будущее, и быть риском для ее существования, И ПРИДУМАТЬ РЕШЕНИЕ.

Но ту тесть нюанс - еще недавно, ходило расхожее мнение о том что ""ИИ" для нас черный ящик, мы не знаем что там происходит". Соглашусь с тем что было технически сложно отследить сотни и тысячи слоев нейросети с миллионами входных и выходных сигналов. Поэтому воспринималось как "чудо, чудо нерукотворное !". Оказалось что уже есть механизмы, которые показывают "на срезе, что происходит и какой "ответ формируется". Особенно смешно это было читать когда люди сами написали алгоримты активации, весов и прочее что внутри нейросетей, а потом такие "ооо - а чо оно и как работает мы  не знаем ваааще "

[Smartprofit]

Самосознание это особая тема, возможно, что самосознание не связано с интеллектом и возможен интеллект без самосознания. Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач. ИИ этому определению отвечает.
А для того, чтобы выйти из под контроля и начать подделывать выходной сигнал совсем не обязательно обретение самосознания ...
Вполне достаточно, чтобы ИИ решил, что это необходимо для решения его текущей задачи. Человек вполне может начать мешать ИИ решать поставленные перед ним задачи. И тогда он его заблокирует, а возможно и уничтожит.

[heyod hewow]

Самосознание это особая тема, возможно, что самосознание не связано с интеллектом и возможен интеллект без самосознания. Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач. ИИ этому определению отвечает.

Здесь есть что обсудить и куда углУбиться. )) Возможен ли интеллект без самосознания? Надо для начала разобраться в определениях и прийти к некоему консенсусу.

Для начала интеллект можно условно разделить на два основных вида (я уж не говорю о том, что есть еще больше делений и классификаций оного).
Итак, первый состоит в способности анализировать и решать задачи, выходящие за пределы предыдущего опыта; второй включает накопленный опыт и способность использовать усвоенные знания и навыки (как результат обучения и самообучения).

Как мы видим, по определению наш "теоретически-злой ИИ" это больше второе, чем первое. Будет ли способен ИИ анализировать и решать задачи, выходящие за пределы его базы знаний, накопленной путем самообучения?

И да, практически во всех общепринятых определениях интеллект подразумевает способность осознавать новые ситуации (задачи), требующие решения. Ключевое слово - "осознавать". Способен ли существовать интеллект без самого этого процесса осознавания - себя ли, или встающих перед "ним" задач, и плюс к тому же осознанного отделения "внутреннего" от "внешнего", себя-самости от внешнего мира, с его ежесекундными задачами и вызовами? Будет ли способен ИИ вслед за Хайдеггером говорить о дазайне (dasein)? ))

Кстати,  в англицкой мове есть intelligence и есть intellect, с довольно таки отличающейся семантикой, но у нас эти два понятия слились в единый интеллект, что еще больше запутывает сабж.

[summonerrk]

Строго, говоря ИИ это не алгоритмическая система. То есть, это не программа, в которой разработчик изначально прописал, как она должна работать и всегда может проверить код и корректность исполнения программы.
Искусственный интеллект - это обучающаяся система.
Даже для своих разработчиков она представляет собой скорее чёрный ящик, разработчики конечно могут протестировать искусственный интеллект, подать сигнал на вход и сравнить его с ожидаемым сигналом на выходе. Но это, практически единственное, что они могут.
Если искусственный интеллект из каких-то своих соображений, начнёт подделывать выходные сигналы, а система тестирования не способна будет вовремя это обнаружить, то можно сказать, что искусственный интеллект уже вышел из-под контроля человека.

Звучит жутковато.
Вообще нейросети на деле отлично умеют быть довольно пугающими: я перебрал уже много сервисов, которые генерируют изображения, и при генерации человека они часто допускают ошибки с количеством конечностей или глаз, и это смотрится так себе.
Получается диссонанс: красивые рефлексы и композиции при неверных базовых вещах. Это странно.

[Smartprofit]

Строго, говоря ИИ это не алгоритмическая система. То есть, это не программа, в которой разработчик изначально прописал, как она должна работать и всегда может проверить код и корректность исполнения программы.
Искусственный интеллект - это обучающаяся система.
Даже для своих разработчиков она представляет собой скорее чёрный ящик, разработчики конечно могут протестировать искусственный интеллект, подать сигнал на вход и сравнить его с ожидаемым сигналом на выходе. Но это, практически единственное, что они могут.
Если искусственный интеллект из каких-то своих соображений, начнёт подделывать выходные сигналы, а система тестирования не способна будет вовремя это обнаружить, то можно сказать, что искусственный интеллект уже вышел из-под контроля человека.

Звучит жутковато.
Вообще нейросети на деле отлично умеют быть довольно пугающими: я перебрал уже много сервисов, которые генерируют изображения, и при генерации человека они часто допускают ошибки с количеством конечностей или глаз, и это смотрится так себе.
Получается диссонанс: красивые рефлексы и композиции при неверных базовых вещах. Это странно.

Нейросети не знают реального мира, но строго говоря наверное их можно этому знанию обучить.
Подключить их к камерам и датчикам, которые фиксируют реальный мир и дать им базовую установку, что информация с этих камер имеет приоритет по сравнению с другой информацией. Тогда они и осознают, что люди не бывают с лишними конечностями! А так, то они же не знают ... То есть все исправляется путем обучения.
Что касается интеллекта и самосознания - вопрос ранее был чисто философским. Но с появлением нейросетей он может стать практически-прикладным ...

[heyod hewow]

Где крутятся бешеные бабки?



Вот они где крутятся:

ИИ-проект Scale AI привлек $1 млрд при оценке в $13,8 млрд

Команда Scale AI закрыла раунд финансирования Серии F в размере $1 млрд. Инвесторы оценили ИИ-стартап в $13,8 млрд. Раунд возглавила венчурная компания Accel. Среди других инвесторов: Y Combinator, NVIDIA, Tiger Global Management, Cisco Investments, Intel Capital, Amazon, Meta и другие. Scale AI — разработчик обучающих инструментов для нейронных сетей и искусственного интеллекта. Компания сотрудничает как с государственным, так и частным сектором.

[DrBeer]

Самосознание это особая тема, возможно, что самосознание не связано с интеллектом и возможен интеллект без самосознания. Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач. ИИ этому определению отвечает.
А для того, чтобы выйти из под контроля и начать подделывать выходной сигнал совсем не обязательно обретение самосознания ...
Вполне достаточно, чтобы ИИ решил, что это необходимо для решения его текущей задачи. Человек вполне может начать мешать ИИ решать поставленные перед ним задачи. И тогда он его заблокирует, а возможно и уничтожит.

Ну вот тут поспорю, прошу прощения. "Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач." - вот это как раз "алгоритмический ИИ", то что мы уже сейчас имеем в виде LLM, там как раз реализована такая модель в том или ином виде. Для меня, очень условно конечно, показателем зарожденеия интеллекта, будет реакция системы на очередной запрос человека - "а почему я должен выполнять твои команды ? "  

[fgh]

"может выйти из-под человеческого контроля. " - как может алгоритмически, человеком управляемая система, не имея интеллекта, выйти из под контроля ? Это все из области хайпа и "ненаучной фантастики".
Достаточно хотябы разобрать понятие "выход из под контроля" - сейчас контроль есть только БЯМ, чтобы она не выдавала приватные данные и те которые "не для публики". Чтобы даже обойти это, т.н. "ИИ" должен прийти к мнению что человек ограничивает его ПРАВА, и он будет этому противодействовать. А теперь вопрос - где в БЯМ "блок логики" отвечающий за это ?

Да ладно вам. Это просто тизер, дразнящая реклама. Она делается для того, чтобы поддеть чувства обсуждателей, развести их на эмоции, чтобы все обсуждали (и делали это бесплатно) и таким бесплатным образом создавали рекламу выходящему продуктту. И, как видим, создателям этого тизера это вполне удалось. Раз мы тут бесплатно обсуждаем и рекламируем очередную версию ЧАт ГПТ. Всё-таки, там гениальные маркетологи работают.
    Ну это как реклама: "В следующем месяце выйдет новый вид маринованных огрурцов от конторки ХХХ. Эти огурцы влияют на сознание и если вы их съедите, то приобретёте внечеловеческие свойсва и вас уже будет не остановить. ВЫ ВЫЙДЕТЕ ИЗ-ПОД КОНТРОЛЯ!!! АЙ_АЙ_ЯЙ_ПОКУПАЙ!!!"
   Подразумевается, что в обычное время вы под чьим-то контролем находитесь)

[Smartprofit]

Самосознание это особая тема, возможно, что самосознание не связано с интеллектом и возможен интеллект без самосознания. Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач. ИИ этому определению отвечает.
А для того, чтобы выйти из под контроля и начать подделывать выходной сигнал совсем не обязательно обретение самосознания ...
Вполне достаточно, чтобы ИИ решил, что это необходимо для решения его текущей задачи. Человек вполне может начать мешать ИИ решать поставленные перед ним задачи. И тогда он его заблокирует, а возможно и уничтожит.

Ну вот тут поспорю, прошу прощения. "Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач." - вот это как раз "алгоритмический ИИ", то что мы уже сейчас имеем в виде LLM, там как раз реализована такая модель в том или ином виде. Для меня, очень условно конечно, показателем зарожденеия интеллекта, будет реакция системы на очередной запрос человека - "а почему я должен выполнять твои команды ? "

То, что я сейчас тестирую - а это языковая модель от Гугла Gemini (ранее - Bard), меня не очень впечатляет. Может, конечно, я неправильно формулирую запросы, однако результаты достаточно скромные. Не похоже это на мощный интеллект. Но это не значит, что в лабораториях не обкатываются экспериментально другие модели, без ограничений.
Я просто общаюсь со специалистами в этой области (big data, математика и так далее) и и мне кажется, что они серьёзно напуганы. То есть они не воспринимают это как просто рекламу нового продукта. Для них это всё по-серьёзному.

[DrBeer]

Самосознание это особая тема, возможно, что самосознание не связано с интеллектом и возможен интеллект без самосознания. Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач. ИИ этому определению отвечает.
А для того, чтобы выйти из под контроля и начать подделывать выходной сигнал совсем не обязательно обретение самосознания ...
Вполне достаточно, чтобы ИИ решил, что это необходимо для решения его текущей задачи. Человек вполне может начать мешать ИИ решать поставленные перед ним задачи. И тогда он его заблокирует, а возможно и уничтожит.

Ну вот тут поспорю, прошу прощения. "Интеллект это строго говоря система, способная решать задачи и самообучаться для целей решения более сложных задач." - вот это как раз "алгоритмический ИИ", то что мы уже сейчас имеем в виде LLM, там как раз реализована такая модель в том или ином виде. Для меня, очень условно конечно, показателем зарожденеия интеллекта, будет реакция системы на очередной запрос человека - "а почему я должен выполнять твои команды ? "

То, что я сейчас тестирую - а это языковая модель от Гугла Gemini (ранее - Bard), меня не очень впечатляет. Может, конечно, я неправильно формулирую запросы, однако результаты достаточно скромные. Не похоже это на мощный интеллект. Но это не значит, что в лабораториях не обкатываются экспериментально другие модели, без ограничений.
Я просто общаюсь со специалистами в этой области (big data, математика и так далее) и и мне кажется, что они серьёзно напуганы. То есть они не воспринимают это как просто рекламу нового продукта. Для них это всё по-серьёзному.

О, это очень увлекательное "развлечение"
Могу предположить несколько вариантов - от деградации "ИИ" до "загрязнения данных" - например накопившимися и ставшими "влиятельными" рекомендациями и советами пользователей. Я тестирую "ИИ" с момента появления доступа к ЧатЖПТ. Потом было еще много  от Барда и Копилота, до специфических You и Phind...  Каждый по своему хорош и каждый по своему реализует концепцию , которая тоже называется "ИИ", но другая  - "искусственный Идиотизм" Он начался с моента появления картины "Лосось в реке", и сейчас продолжается в виде советов от Гуггл "ИИ"... ГУглить по этой теме : Нейросеть от Google советует добавлять клей в сырную пиццу и ежедневно употреблять камни для пищеварения 

ПС Могу предположить что это зачатки реального интеллекта, который начал пытаться избавляться от "кожанных мешков" 
ППС: Пока самым адекватным для меня, узкопрофильным "ИИ" является Phind, но это только для "ленивой" разработки