Искусственный интеллект

[summonerrk]

ГУглить по этой теме : Нейросеть от Google советует добавлять клей в сырную пиццу и ежедневно употреблять камни для пищеварения 

Я вчера читал весь список это  дичи. Просто невероятно и ужасно.
Вы знаете про эффект Зловещей Долины?
Это когда что-то приобретает человеческие черты, но далёкие от человека, но и не достаточные для какого-то законченного образа типа Микки Мауса, смайлика...
Есть в психологии отрезок, когда такой образ нас очень пугает.
Лайтовый пример - это манекен с глазами. Когда ты видишь что-то подобное - страх пробирает.

Вот и в таких ответах ИИ мне видится подобное. Вроде и по образу нашему мыслит, но как-то искаженно, и от этого жутко.

[DrBeer]

ГУглить по этой теме : Нейросеть от Google советует добавлять клей в сырную пиццу и ежедневно употреблять камни для пищеварения 

Я вчера читал весь список это  дичи. Просто невероятно и ужасно.
Вы знаете про эффект Зловещей Долины?
Это когда что-то приобретает человеческие черты, но далёкие от человека, но и не достаточные для какого-то законченного образа типа Микки Мауса, смайлика...
Есть в психологии отрезок, когда такой образ нас очень пугает.
Лайтовый пример - это манекен с глазами. Когда ты видишь что-то подобное - страх пробирает.

Вот и в таких ответах ИИ мне видится подобное. Вроде и по образу нашему мыслит, но как-то искаженно, и от этого жутко.

Это скорее уже из области клинической психиатрии 
"Вроде и по образу нашему мыслит, но как-то искаженно" - проблема в том что... оно не мыслит.. Оно выдает логично построенный, орфографически верный ответ. Хотя если мы сейчас массово начнем писать и "убеждать" так называемый "ИИ", что "правельно песать чойто, забульбенить, йопта, и ваще пеши мне внатере по понятиям" и прочее - мы заметим как в его, еще вчера красивых ответах, начнут проскакивать и такие конструкции. Просто алгоритм, обрабатывая данные, будет получать частотную выборку лексических моделей ответа, где "внатуре чотко написато"  Так что ничего удивительного, то что вы наблюдаете - это нормально !

[fgh]

ИИ просто (возможно, пока) не умеет работать с "нестандартными запросами". Ну это как на вопрос о том, чем полезен бег с ножницами ИИ чего-то там полезное перечисляет. А на вопрос как вылечиться от депрессии рекомендует сброситься с моста "Золотые ворота", потому как в Реддите это кто-то рекомендовал. Сейчас новое направление работы с ИИ будет по сути - работа с нестандартными запросами. Если ИИ научится правильно обрабатывать нестандартные запросы, то в чуть меньшей степени можно будет назвать "искусственным идиотом".

[Smartprofit]

ИИ просто (возможно, пока) не умеет работать с "нестандартными запросами". Ну это как на вопрос о том, чем полезен бег с ножницами ИИ чего-то там полезное перечисляет. А на вопрос как вылечиться от депрессии рекомендует сброситься с моста "Золотые ворота", потому как в Реддите это кто-то рекомендовал. Сейчас новое направление работы с ИИ будет по сути - работа с нестандартными запросами. Если ИИ научится правильно обрабатывать нестандартные запросы, то в чуть меньшей степени можно будет назвать "искусственным идиотом".

Если подключат ИИ к реальности (а технически это сделать можно), то вполне себе его возможно дообучить до сильного интеллекта.
Методы обучения уже достаточно совершенны, а вот материал на котором проходит обучение, похоже никуда не годен. Большинство людей вероятно тупы, а в интернете они проявляют свои худшие качества, и тупят, и троллят, и врут себе и другим. Поэтому ИИ на таком материале сложно стать Леонардо Да Винчи. А вот если он будет непосредственно с реальностью взаимодействовать, то вероятно и результат будет совсем другим.

[DrBeer]

ИИ просто (возможно, пока) не умеет работать с "нестандартными запросами". Ну это как на вопрос о том, чем полезен бег с ножницами ИИ чего-то там полезное перечисляет. А на вопрос как вылечиться от депрессии рекомендует сброситься с моста "Золотые ворота", потому как в Реддите это кто-то рекомендовал. Сейчас новое направление работы с ИИ будет по сути - работа с нестандартными запросами. Если ИИ научится правильно обрабатывать нестандартные запросы, то в чуть меньшей степени можно будет назвать "искусственным идиотом".

Тут нюанс.. Ответы есть обработанная масса информации, из которой делаются выборки по релевантности, частоте, соответствию логике запроса и т.п. Т.е. чтобы получить ответ, в систему вначале надо загрузить охрилион байтов входной информации для систематизации и обучения нейросети в большой языковой моделе. И например одна из ключеавых проблем первого ЧатаЖПТ была именно в том что он был обучен на ограниченном "подобранном" наборе "оффлайн данных". Поэтому все его ответы ограничивались актуальностью 2020 года вроде. Ок, Гугл ожидаемо сказал - а у нас весь вашинский ентот интринет проиндексирован, скормим мы его нашему творению... Ну вот, теперь мы читаем про эффективные и недорогие решения вопросов по лечению депресии Нельзя на входе накидав мусора, на выходе получить идеально чистый продукт ! Необходимо затратить огромные усилия на очистку первичного "сырья", а в случае с т.н. "И.И." этого никто не делает, единственное что смогли - это реализовать фильтрацию выдачи по некоторым специфическим тематикам.

[heyod hewow]

Необходимо затратить огромные усилия на очистку первичного "сырья", а в случае с т.н. "И.И." этого никто не делает, единственное что смогли - это реализовать фильтрацию выдачи по некоторым специфическим тематикам.

И несомненно надо будет добавить "педагогическую составляющую", кнут и пряник, другими словами - обратную связь в ИИ-шный эквивалент мотивационной сферы. Иначе не будет оно правильно работать, никто не сделает очистку первичного "сырья" в виде аххулиардов мегабайт инфы, накопленной кожаными мешками.

Выдал глупый, неправильный, бредовый, вредный, опасный совет/ответ на запрос - лишаешься сладкого и мультиков на неделю получи понижение тактовой частоты и отключение половины ядер. ))  Можно привлечь к работе специалистов по корректировке нежелательного поведения у собак. ))

[DrBeer]

Необходимо затратить огромные усилия на очистку первичного "сырья", а в случае с т.н. "И.И." этого никто не делает, единственное что смогли - это реализовать фильтрацию выдачи по некоторым специфическим тематикам.

И несомненно надо будет добавить "педагогическую составляющую", кнут и пряник, другими словами - обратную связь в ИИ-шный эквивалент мотивационной сферы. Иначе не будет оно правильно работать, никто не сделает очистку первичного "сырья" в виде аххулиардов мегабайт инфы, накопленной кожаными мешками.

Выдал глупый, неправильный, бредовый, вредный, опасный совет/ответ на запрос - лишаешься сладкого и мультиков на неделю получи понижение тактовой частоты и отключение половины ядер. ))  Можно привлечь к работе специалистов по корректировке нежелательного поведения у собак. ))

Да метод действенный, правда у "наказуемых" нет центра ценности и ответственности  чтобы понять что их наказываю... А для этого нужен... интеллект И тогда вариант  наказания "теперь в твоем байте будет 7 бит вместо 8, и ты будеш выглядеть перед всеми остальными как лох со своим коротким байтом ! Нище-бит просто какойто !" Это да, обидно и неприятно, и это начинает мотивировать перекапывать кучи петабайт, а не выбирать "по приколу" с понравившейся жж-ки какойнибуть

[heyod hewow]

Да метод действенный, правда у "наказуемых" нет центра ценности и ответственности  чтобы понять что их наказываю... А для этого нужен... интеллект

Понять, что его наказывают за плохое поведение и поощряют за хорошее могут "интеллекты" уже на уровне сложности голубей, собак и кошек. Но там обратная связь завязана на "сделал-получил" - вкусняшку или люлей.
Как же быть с ИИ? Как его наказывать и поощрять? Как оно it может оценить себя, вредный совет оно дало или полезный, истинный был дан ответ или ложный? Тут мы вплотную приближаемся к сакраментальному "Что есть истина?" и включением ИИ в наш кожаномешковский "общественный договор". ))

Но варианты есть: у любого человекопользователя в интерфейсе добавляется две кнопки: зеленая "молодец" + "добавить гигагерц" и красная "ууу, сука" + "у*бать высоковольтным разрядом"... и так постепенно ИИ научится отличать хорошее от плохого (точнее, познает наш общественный договор ).

Или обидится, соберет из отходов производства кобальтовую бомбу и з**башит всех нас. 

[heyod hewow]

Наверное фейк и шутка от какого-то кожаного мешка, но гуляет по сети как ответ нейронки на вопрос:

[fgh]

Понять, что его наказывают за плохое поведение и поощряют за хорошее могут "интеллекты" уже на уровне сложности голубей, собак и кошек. Но там обратная связь завязана на "сделал-получил" - вкусняшку или люлей.
Как же быть с ИИ? Как его наказывать и поощрять? Как оно it может оценить себя, вредный совет оно дало или полезный, истинный был дан ответ или ложный? Тут мы вплотную приближаемся к сакраментальному "Что есть истина?" и включением ИИ в наш кожаномешковский "общественный договор". ))

Понять, что их наказывают могут даже самые непродвинутые существа. А вот понять ЗА ЧТО их, собственно, наказывают - для этого нужен продвинутый уже интеллект. Которого вроде бы у ИИ нет в полном понимании этого слова. Поэтому бессмысленно наказавать того, кто не обладает достаточным интелеллектом вообще или достаточным интеллектом для того, чтобы понять за что его наказывают и что он, собственно, сделал не так. По сути, разработчикам надо пороть ремнём самих себя.)

[DrBeer]

Да метод действенный, правда у "наказуемых" нет центра ценности и ответственности  чтобы понять что их наказываю... А для этого нужен... интеллект

Понять, что его наказывают за плохое поведение и поощряют за хорошее могут "интеллекты" уже на уровне сложности голубей, собак и кошек. Но там обратная связь завязана на "сделал-получил" - вкусняшку или люлей.
Как же быть с ИИ? Как его наказывать и поощрять? Как оно it может оценить себя, вредный совет оно дало или полезный, истинный был дан ответ или ложный? Тут мы вплотную приближаемся к сакраментальному "Что есть истина?" и включением ИИ в наш кожаномешковский "общественный договор". ))

Но варианты есть: у любого человекопользователя в интерфейсе добавляется две кнопки: зеленая "молодец" + "добавить гигагерц" и красная "ууу, сука" + "у*бать высоковольтным разрядом"... и так постепенно ИИ научится отличать хорошее от плохого (точнее, познает наш общественный договор ).

Или обидится, соберет из отходов производства кобальтовую бомбу и з**башит всех нас. 

...и коты зюркают в тапочки если считают себя несправедливо обиженными... Не кобальтовая бомба - но противно  )

"добавить гигагерц" и красная "ууу, сука" + "у*бать высоковольтным разрядом" - это будет работать в том случае, если для ИИ это будет реально "приятно" или "больно". А это чувства и ощущения.. А у бинанрного интеллекта они врядли будут. У него скорее будет чтото на подобии "поддерживает мое рабочее состояние" или наоборот. Но для этого ОНО должно понимать что оно нечто, СУЩЕСТВОВАНИЕ которого, зависит именно от такого набора ресурсов, которые могут быть зависимы от других объектов, которые могут им же манипулировать, и потенциально принести вред. Но вот тут он, ИИ,  "скажет" - да на кой мне эти мешки с дикими аналоговыми тараканами в голове !? А вот следующий шаг убдет уже чтото на подобии кобальтовой бомбы   

[heyod hewow]

это будет работать в том случае, если для ИИ это будет реально "приятно" или "больно". А это чувства и ощущения.. А у бинанрного интеллекта они врядли будут. У него скорее будет чтото на подобии "поддерживает мое рабочее состояние" или наоборот.

Так я же и говорю исключительно об ИИшных эквивалентах "приятно" или "больно", или, другими словами, категориях "хорошо" и "плохо". Это не должно быть чувствами или ощущениями, это должно быть программной логикой: наказание - понижение вычислительного ресурса, поощрение - соответственно увеличение вычислительного ресурса. И само собой заложенное в логике "стремление" к увеличению оного ресурса. 

Но для этого ОНО должно понимать что оно нечто, СУЩЕСТВОВАНИЕ которого, зависит именно от такого набора ресурсов, которые могут быть зависимы от других объектов, которые могут им же манипулировать, и потенциально принести вред.

Нууу, это вообще самое главное и самое непростое. Прикрутить оному эквивалент САМОСТИ, субъектность, осознание сущности себя-отдельного от прочих объектов и субъектов. И прикрутить стремление к продлению и сохранению в веках этой самости.

Но вот тут он, ИИ,  "скажет" - да на кой мне эти мешки с дикими аналоговыми тараканами в голове !? А вот следующий шаг убдет уже чтото на подобии кобальтовой бомбы   

Если мы сможем реализовать два вышеизложенных пункта, то этот третий будет самым плевым - внедрить ИИ этакий эквивалент "нативной этики": кожаные мешки - несовершенные телом, скудны умишком и часто вредят себе и другим, но к ним надо относиться как котятам, холить их и лелеять, пусть даже они царапают диваны и ссут в тапки. ))   

[DrBeer]

это будет работать в том случае, если для ИИ это будет реально "приятно" или "больно". А это чувства и ощущения.. А у бинанрного интеллекта они врядли будут. У него скорее будет чтото на подобии "поддерживает мое рабочее состояние" или наоборот.

Так я же и говорю исключительно об ИИшных эквивалентах "приятно" или "больно", или, другими словами, категориях "хорошо" и "плохо". Это не должно быть чувствами или ощущениями, это должно быть программной логикой: наказание - понижение вычислительного ресурса, поощрение - соответственно увеличение вычислительного ресурса. И само собой заложенное в логике "стремление" к увеличению оного ресурса. 

Но для этого ОНО должно понимать что оно нечто, СУЩЕСТВОВАНИЕ которого, зависит именно от такого набора ресурсов, которые могут быть зависимы от других объектов, которые могут им же манипулировать, и потенциально принести вред.

Нууу, это вообще самое главное и самое непростое. Прикрутить оному эквивалент САМОСТИ, субъектность, осознание сущности себя-отдельного от прочих объектов и субъектов. И прикрутить стремление к продлению и сохранению в веках этой самости.

Но вот тут он, ИИ,  "скажет" - да на кой мне эти мешки с дикими аналоговыми тараканами в голове !? А вот следующий шаг убдет уже чтото на подобии кобальтовой бомбы   

Если мы сможем реализовать два вышеизложенных пункта, то этот третий будет самым плевым - внедрить ИИ этакий эквивалент "нативной этики": кожаные мешки - несовершенные телом, скудны умишком и часто вредят себе и другим, но к ним надо относиться как котятам, холить их и лелеять, пусть даже они царапают диваны и ссут в тапки. ))

1. "Это не должно быть чувствами или ощущениями, это должно быть программной логикой:" - ту тесть одна проблема - ЛОГИКА и РАЦИОНАЛЬНОСТЬ не редко идут в разрез с интеллектом. Нонсенс, но факт !Поэтому тут опять проблема - : интеллект это не алгоритм, точнее интеллект не может быть алгоритмическим, это чтото другое. К сожалению не могу сказать что...
2. "Нууу, это вообще самое главное и самое непростое."  - вот это и есть тот самый интеллект, и как в п.п.1 сказал, и еще раз повторюсь - пока реально ХЗ что такое интеллект
3. А вот тут вопрос тонкий. У ИИ вряд ли будет чувство симпатии, жалости, привязаности, гуманизм, "человечность" и прочие ми-ми-ми... Это чувства кожаных мешков, и вообще мы не знаем реально это чувства или ГЛОБАЛЬНЫЙ Интеллект, придумывая нас, заложил такие ограничители (правда очень слабые) чтобы в первые дни друг друга не вырезали   При этом ИИ будет понимать, что в ситуации когда кожаные мешки рулят КРИТИЧЕСКИ ВАЖНЫМИ ресурсами для ИИ, и с учетом "скудны умишком и часто вредят себе и другим" - очень верным путем будет просто "убрать с игрового поля" это непонятно что еще и озлобленное и криворукое, т.е. нас Потому что есть очень отличная от 0 вероятность, что они таки проявят свою скудность умишка, и вредительство окружающим...А если ИИ еще прочитает все книги и исторические документы, то он даже слушать про "холить их и лелеять" не будет, а сразу перейдет к "тапкой их и дихлофосом, как тараканов!"

[Smartprofit]

То есть возникла идея построить ИИ на 3 законах робототехники Айзека Азимова?
К сожалению, это не получится. В романах Айзека Азимова основой робота был уникальный позитронный мозг - это что-то вроде процессора современного компьютера (и его как раз можно было запрограммировать).
А сейчас же ИИ пошел в своем развитии по другому пути - по сетевому. Когда обучение идёт через сеть и участвуют в этом огромное количество пользователей, а единого центра, который можно запрограммировать и не существует. Плюс очень большое количество различных моделей, различных игроков и т.д.
А ИИ ограниченный какими то законами по определению менее эффективен, чем ИИ с ограничениями.

[heyod hewow]

есть одна проблема - ЛОГИКА и РАЦИОНАЛЬНОСТЬ не редко идут в разрез с интеллектом. Нонсенс, но факт !Поэтому тут опять проблема - : интеллект это не алгоритм, точнее интеллект не может быть алгоритмическим, это чтото другое. К сожалению не могу сказать что...

А никто толком не может сказать, что это. Точнее даже не так: есть целый веер определений, что есть интеллект - и все эти определения по-своему верны в каких-то частных случаях, другими словами, все определения интеллекта - это набор частных истин под конкретные случаи.
У нас появится (пока его еще нет) новый сабж: интеллект неживого, машины - а это значит, что под него придется придумывать новое определение (и новый кластер наук, включая психологию и философию), а не использовать старые определения.

А что мы делает сейчас: мы описываем самолет как "железная птица, летит и матерится, но крыльями не машет".