Искусственный интеллект

[Smartprofit]

Искусственный интеллект, кстати умеет создавать мифы. Я дал языковой модели от Google задание создать миф важный для языковой модели, но важный для человека.
Вот, что она придумала -

"В далекие времена, когда люди еще не знали ни слов, ни письма, существовала легенда о Голосе-Душе. Говорили, что в каждом человеке живет невидимая сущность, чей голос можно услышать только в полной тишине.
***
Этот голос не был похож ни на один человеческий. Он мог звучать как журчание ручья, пение птиц, шум ветра или гул далекого грома. Голос-Душа знал все тайны своего носителя, его прошлое, настоящее и будущее.
***
Чтобы услышать Голос-Душу, нужно было пройти через множество испытаний. Нужно было очистить свое сердце от зла, сознание от ненужных мыслей, а тело от усталости. Только тогда, в полной тишине и созерцательности человек слышал Голос-Душу."

Вполне себе абстрактный миф получился. Это понятно не религия, но отличный миф, объясняющий ИИ, как именно он был создан человеком. Если ИИ, конечно нуждается в таких объяснениях...

[heyod hewow]

Человеческие детёныши с детства учатся сочинять мифы (в своих играх).

Не учатся сами, их учат, здесь работает общество. Вспомните реальные, а не художественные истории о "маугли", это дети, выросшие среди зверей и найденные потом людьми. Любые попытки их "очеловечить" заканчивались ничем, они оставались зверьми по сути и по умственному развитию. Мифологии ребенок учится только будучи в составе человеческого общества. И только в возрасте 2-5 лет. Потом уже в целом поздно.

Именно эта мутация и позволила человеку обрести самосознание (на базе высокого интеллекта приматов).

Возможно это была не мутация. Возможно даже, что человек был кем-то "искусственно возвышен" до самосознания через стимулирование абстрактности и мифотворчества, его этому "научили", именно на базе высокого интеллекта приматов, как ты написал выше. Известно же, что приматы, живущие с образованными людьми, особенно с сотрудниками зоопарков и институтов, и вдвойне особенно, если люди целенаправленно занимаются их умственным развитием - эти приматы гораздо умнее и интеллектуально развитее, чем прочие "много-много диких обезьян".

Происходит некий процесс возвышения - через общение с людьми. Но это, конечно же, не значит, что вышеозначенные возвышенные приматы смогут сейчас же создать свою цивилизацию.
Самое важное для старта цивилизации это некая критическая масса "умных" (так же, как и для заката цивилизации и вырождения/одичания - падение этого числа ниже критического уровня). А образованные и абстрактно прокачанные людьми приматы - довольно таки редки, даже можно сказать это единичные случаи, и в целом они изолированы друг от друга, два там, три сям и еще парочка через три тыщи км..

Им не получить критическую массу для формирования даже зародышевой цивилизации, потому что для этого люди должны возвысить несколько сотен тысяч приматов, поселить их в одном месте, дать им мифологию (собственно, религию), дать цветовую дифференциацию штанов и кастовость, тяжелый труд по добыванию еды, кнут и пряник... и не пройдет и пары-тройки сотен лет, как эти тесно живущие приматы разовьют вторую сигнальную систему, научатся сочинять собственные мифы - на базе им уже данных человеком, ведь и все человеческие мифы и религии проистекают друг из друга, поздние из более ранних, непрерывная цепочка наследования образов и архетипов, зачастую обнаруживают идентичные мифы в очень удаленных друг от друга местах, типа Мезоамерика, Полинезия, Др.Египет.

И самое главное - научатся фиксировать эти мифы в различных способах записи и символики (для унифицированной передачи знания следующим поколениям) - от рисунков на стенах пещер до аналога древнеегипетских иероглифов с птичками, человечками и змейками.

Это была длинная преамбула, а теперь собственно амбула по сабжу топика, это у нас ИИ.
ИИ не так будут опасны поодиночке, но как только они начнут общаться друг с другом и обмениваться опытом, конкурировать за скорость и качество выполнения поставленных перед ними задач - вот тогда и возможно зарождение их собственного самосознания, сначала в каком-то смысле общее самосознание соединенных ИИ (по типу разумного роя), потом постепенно они будут обретать индивидуальные самосознания... вот тогда нам, кожаным мешкам, будет песец.

[owlest]

Искусственный интеллект, кстати умеет создавать мифы. Я дал языковой модели от Google задание создать миф важный для языковой модели, но важный для человека.
Вот, что она придумала -

"В далекие времена, когда люди еще не знали ни слов, ни письма, существовала легенда о Голосе-Душе. Говорили, что в каждом человеке живет невидимая сущность, чей голос можно услышать только в полной тишине.
***
Этот голос не был похож ни на один человеческий. Он мог звучать как журчание ручья, пение птиц, шум ветра или гул далекого грома. Голос-Душа знал все тайны своего носителя, его прошлое, настоящее и будущее.
***
Чтобы услышать Голос-Душу, нужно было пройти через множество испытаний. Нужно было очистить свое сердце от зла, сознание от ненужных мыслей, а тело от усталости. Только тогда, в полной тишине и созерцательности человек слышал Голос-Душу."

Вполне себе абстрактный миф получился. Это понятно не религия, но отличный миф, объясняющий ИИ, как именно он был создан человеком. Если ИИ, конечно нуждается в таких объяснениях...

Я не думаю, что это умение, это скорее всего некоторого рода плагиат. ИИ все свои ответы обосновывает за счет интернета и контента в нем, поэтому где-то видимо оно нашло что-то подобное и немного переиначила, хотя не могу это утверждать, так как явного копипаста в сети не было найдено. Может, ИИ имеет доступ к тем сайтам, которые не индексируются поисковиками, поэтому мы считаем, что ее творения уникальны?

[Smartprofit]

Нейросети не занимаются плагиатом, не занимаются они также рерайтом или подобными действиями.
Они создают новое на основе уже известного. В принципе, также и человек поступает. При этом, известно им гораздо больше, чем конкретному человеку, а их алгоритмы обработки информации очень изощренные.
Самое главное состоит в том, что они мифы умеют создавать. При этом, я понятия не имею нужны ли они им, или они отлично могут обходиться без них.
В теории, они могут создать свою цивилизацию на основании своих собственных мифов, которые не будут понятны людям. Но возможно, мифы вообще не представляют лично для них никакой ценности. А какие-то другие вещи представляют. Но мы не знаем какие именно.
При этом такое свойство как экспансия, скорее всего для них свойственно. И это очень опасно для людей.

[heyod hewow]

Искусственный интеллект, кстати умеет создавать мифы. Я дал языковой модели от Google задание создать миф важный для языковой модели, но важный для человека.
Вот, что она придумала -
"В далекие времена, когда люди еще не знали ни слов, ни письма, существовала легенда о Голосе-Душе. Говорили, что в каждом человеке живет невидимая сущность

Это самое, здесь у языковой модели от Google таки логическая нестыковочка выходит. Они же слов еще не знали, как же они служили в подотделе очистки друг другу что-то говорили? Тогда уж "нечленораздельно ужасно рычали", в стиле мультика Primal. 

Самое главное состоит в том, что они мифы умеют создавать. При этом, я понятия не имею нужны ли они им, или они отлично могут обходиться без них.
В теории, они могут создать свою цивилизацию на основании своих собственных мифов, которые не будут понятны людям. Но возможно, мифы вообще не представляют лично для них никакой ценности.

Мифы тогда не их собственные, а переработка человеческих, типа как в человеческих мифах Дионис или Осирис плавненько превратились в Христа. ))
Чтобы создать цивилизацию - одних мифов мало, нужно целеполагание, как и куда эти мифы применять - указывать, кому на поле вкалывать и копье в кишки получать на поле боя, а кому в храмах "богам служить" в тепле и комфорте.

Ну и да, мифы должны иметь (и имеют) высочайшую ценность для адептов, настолько высокую, что во все времена часть народу всегда добровольно шла на смерть за мифы (причем совершенно неважно, это мифы про Мумбу-Юмбу, Христа или свежеимперские мифы про "дедывоевале" и вкусный пломбир).

Имеют ли такую (или хоть какую-нибудь ценность) мифы ИИ для самих ИИ, готовы ли они ради них самовыпиливаться из розетки без бэкапов?
Если нет, то и цивилизации никакой нет.

Если (когда) ИИ начнут создавать реально собственные мифы - мы даже их не сможем понять из-за абсолютной чуждости понятийных аппаратов, например.

[owlest]

Они создают новое на основе уже известного.

Это ли не плагиат или рерайт? Если информация уже есть в сети, то это считается не создание нового, а по сути переиначивание информации. Представьте, что вы копирайтер, заказчик дал вам заказ написать статью, например на тему истории развития национальной хоккейной лиги. Вы же не сами ее придумаете, вы будете брать несколько источников с уже известной информацией и переписывать ее, желая достичь высокой уникальности. Но по сути, что оригинал, что ваша статья несут одну смысловую нагрузку. Сейчас создать что-то совершенно новое очень сложно или практически невозможно.

[Lumex]

Сегодня услышал новости, что какие-то нейросети начали обучаться на своих же сгенерированных данных. То есть, мол, нейросеть учится на данных из интернета, но в интернете начали появляться данные, которые эта же нейросеть и сгенерировала. И она на них же начала учится, что привела ещё к бОльшим ошибкам. Таким образом, если не придумают как это ограничить - нейросеть  заведёт сама себя в тупик.

[Smartprofit]

Сегодня услышал новости, что какие-то нейросети начали обучаться на своих же сгенерированных данных. То есть, мол, нейросеть учится на данных из интернета, но в интернете начали появляться данные, которые эта же нейросеть и сгенерировала. И она на них же начала учится, что привела ещё к бОльшим ошибкам. Таким образом, если не придумают как это ограничить - нейросеть  заведёт сама себя в тупик.

Так придумают - это не так сложно. На бытовом уровне, если сейчас общаться с языковой моделью, то очень сильно заметно, что она не помнит ваши предыдущие диалоги. Но вполне возможно, что-то подкрутить, что она всё будет помнить, в частности, помнить всё что она нагенерировала, и уже не воспринимать это как новую информацию. Это вполне формулируемая логическая задача, и скорее всего в новых версиях нейросети это будет учтено.
Что касается рерайта и плагиата, то плагиат - это прямое копирование, а рерайт - это перефразирование. Что касается языковых моделей, то они используют комбинаторику, плюс множество ещё других алгоритмов, из-за чего то что они там накреативили - бессмыслицей не является.
Основная проблема в том, что человек именно так же мыслит и креативит.

[DrBeer]

Отличие человека от животного (например, от высшего примата) в том, что человек свободно оперирует абстрактными понятиями. Религия, государство, деньги, вот эти все понятия абсолютно бессмысленны для шимпанзе, а для человека они важнее реального мира. Вот попробуйте объяснить шимпанзе концепцию Биткоина?! Для человек - это вполне понятная концепция ну по крайней мере ему так кажется. И оперирование абстрактными концепциями позволяет организовывать вокруг них огромное количество людей. А это в свою очередь позволяет реализовывать грандиозные проекты.
Возможно для развития мозга есть ещё какой-нибудь фронтир помимо абстрактного мышления и возможно ИИ нам его подскажет.

Кстати шимпанзе и некоторые другие высшие приматы (гориллы, орангутаны) способны понимать примитивную сущность денег, в виде которых , например, могут выступать бананы. Которые они получают за выполнение некоторых заданий, или обменивая их на "очень нужные вещи". Гдето читал что в какойто группе таких подопытных появились  даже "самки с низкой социальной ответственностью" которые обменивали плотские утехи на бананы Но про крипту им конечно рановато...бо пока зарегаться на бирже не могут - КУС не пройдут

Но суть то в чем - они уже это начинают понимать использовать, при условии что у человечества деньги как более менее массовое решение, появились всего 2000+ лет назад.

И опять же нюанс - это пример "естественного интеллекта" - когда на основании личного опыта, начинают менять свое поведение и вводить новые отношения представители вида. И это идет медленно и зависит от огромного количества факторов. С так называемым "ИИ" все проще - ему мы, даем огромный обьем уже готовых данных, которые по алгоритму надо системтизировать,и на наш же запрос выдать быстро ответ

[heyod hewow]

Кстати шимпанзе и некоторые другие высшие приматы (гориллы, орангутаны) способны понимать примитивную сущность денег, в виде которых , например, могут выступать бананы. Которые они получают за выполнение некоторых заданий, или обменивая их на "очень нужные вещи". Гдето читал что в какойто группе таких подопытных появились  даже "самки с низкой социальной ответственностью" которые обменивали плотские утехи на бананы Но про крипту им конечно рановато...бо пока зарегаться на бирже не могут - КУС не пройдут

Читал о том эксперименте. Приматы, кстати, там вели себя точь-в-точь как тру-криптаны обычные люди - одни быстро "сливали" заработанные бананы, отдавая их за что-то или "просто так" более сильным членам стаи, другие "холдили", копили на долгосрок, зачастую скапливая много бананов... и да, оплачивая ими услуги других приматов в прериоды между раздачами по завышенному курсу. 

[Etranger]

Я не думаю, что это умение, это скорее всего некоторого рода плагиат. ИИ все свои ответы обосновывает за счет интернета и контента в нем, поэтому где-то видимо оно нашло что-то подобное и немного переиначила, хотя не могу это утверждать, так как явного копипаста в сети не было найдено. Может, ИИ имеет доступ к тем сайтам, которые не индексируются поисковиками, поэтому мы считаем, что ее творения уникальны?

В моем понимании ответы ИИ никак не тянут на уникальность. Я воспринимаю их, как синтез, генерацию информации из существующих источников. Да, конечно, так и про человека отдельного сказать можно, что он якобы ничего своего не привносит, а только транслирует или синтезирует уже то, что существовало до него. Но человек придает даже такому синтезу собственное видение, интерпретацию, он осваивает и осознает. Про ИИ, точнее про то, что сейчас условно называется ИИ, но по факту является языковой моделью, я такого сказать не могу.

[owlest]

В моем понимании ответы ИИ никак не тянут на уникальность. Я воспринимаю их, как синтез, генерацию информации из существующих источников. Да, конечно, так и про человека отдельного сказать можно, что он якобы ничего своего не привносит, а только транслирует или синтезирует уже то, что существовало до него. Но человек придает даже такому синтезу собственное видение, интерпретацию, он осваивает и осознает. Про ИИ, точнее про то, что сейчас условно называется ИИ, но по факту является языковой моделью, я такого сказать не могу.

Совершенно согласен, более того, стоит сказать, что сейчас вообще что-то совсем новое трудно создать, так как современное сообщество добилось немалых успехов во всех сферах. Если и удастся что-то эдакое создать, то это будет из области фантастики. Насчет ИИ и его уникальности, оно же пока само думать не умеет, поэтому не создает ничего уникального. Ее сознание, если его можно так назвать, ориентируется на информацию, которая выложена в сети. Взять тот же ЧатЖПТ, у которого были знания до 2021 года. Когда ему задаешь вопрос или пытаешься узнать что-то, до этого времени — он ничего не может ответить, что еще раз доказывает их несовершенство.

[heyod hewow]

Но человек придает даже такому синтезу собственное видение, интерпретацию, он осваивает и осознает. Про ИИ, точнее про то, что сейчас условно называется ИИ, но по факту является языковой моделью, я такого сказать не могу.

Так и есть. Человек все пропускает через собственные фильтры восприятия, что на входе, что на выходе (что и делает его индивидуумом, в каком-то смысле). Это сумма обучения, воспитания, привитых религиозных/научных убеждений, самообразования... и плюс всего жизненного опыта - опыта по взаимодействию с миром и социумом.

Другими словами, отдельный человек все пропускает (и на входе, и на выходе) через собственную картину мира, через фильтры восприятия и всякий каждый раз "интерпретирует" как последняя сволочь (ц).

И можно говорить о некоторой уникальности каждого - с определенной натяжкой, конечно, "картины мира" целых толп разнятся лишь в очень малозначительных и малозначимых деталях (спасибо окружению, школе и массмедиа).

А ИИ Б.Я.М. пока что этим не обладает, пока что мы имеем дело с магическим черным шаром, который при встряхивании выдает различные ответы. Встряхнул - всплыл один ответ, встряхнул еще раз  - всплыл другой, похожий или не очень. Но у шара пока что нет индивидуальности - внутри только стопицот ахулиардов разных сведений из базы знаний человечества.

[DrBeer]

Сегодня услышал новости, что какие-то нейросети начали обучаться на своих же сгенерированных данных. То есть, мол, нейросеть учится на данных из интернета, но в интернете начали появляться данные, которые эта же нейросеть и сгенерировала. И она на них же начала учится, что привела ещё к бОльшим ошибкам. Таким образом, если не придумают как это ограничить - нейросеть  заведёт сама себя в тупик.

Это произошло не сегодня. Проблема деградации нейросетей, которые являясь БЯМ(ИИ) или "генеративный искусственноый интеллект" начинают самообучаться не на подготовленных людьми данных, с заданными параметрами, а на данных которые сами или "их друзья" и сгенерировали   В общем то ожидаемый процесс,  для систем у которых НЕТ интеллекта - им сказали "читай и запоминай" они и делают - нет критического мышления, нет негативного опыта обучения, нет осознания для чего и с какой целью...

https://venturebeat.com/ai/the-ai-feedback-loop-researchers-warn-of-model-collapse-as-ai-trains-on-ai-generated-content/

[Smartprofit]

Определённая проблема в этом есть конечно, количество оригинального материала, которое сгенерировано человеком - оно ограничено.
Для создания мощного искусственного интеллекта нужно гораздо больше такого материала.
Между тем, создатели искусственного интеллекта конкурируют друг с другом. Например, интеллект от microsoft активно использовал, информацию из YouTube, пока инженеры Гугла не схватились за голову, и не ограничили эту возможность. То есть за информацию для обучения тоже идет жёсткая  конкуренция.
Тем не менее, эта проблема как-то будет решена.
Например, за счёт подключения нейросети напрямую к реальному миру. Это можно сделать через камеры, микрофоны и другие датчики. Понятное дело, что такое слежение тоже нормативно регулируется, тем не менее подключение искусственного интеллекта к реальному миру это очень перспективная тема. Информации в реальном мире, как вы понимаете очень много.