Искусственный интеллект

[Unbunplease]

Не знаю, можно ли создать алгоритм для ИИ, который будет заставлять нейросеть искать правду, и пока такого нет, нужно самому бдить правильные ответы.

Тут просто всегда остается вопрос о том, а что же такое правда. Потому что понятие это довольно субъективное, в отличии от истины. Так вот, человек, пытающийся докопаться до правды, обычно сравнивает те данные, которые он находит "по пути" со своими убеждениями, опытом, с тем, как они вообще соотносятся с тем, что в его жизни происходит, насколько они отвечают его картине мира. Все это предполагает наличие личности. Для того, чтобы задать ИИ такую методику поиска, его сперва тоже следует наделить личными характеристиками, по сути, создать персоналию. Я очень сомневаюсь, что это возможно.

Ну здесь искусственный интеллект будет определять правду, вероятно, по тому, что большинство из его создателей считает правдой. Поэтому правда в любом случае будет субъективным понятием. Правда всегда меняется а зависимости от различных подходов к ней и различных проявлений, а также в зависимости от постулатов общества. Абсолютной правды не существует. Даже дважды два не всегда четыре.

[Smartprofit]

Не знаю, можно ли создать алгоритм для ИИ, который будет заставлять нейросеть искать правду, и пока такого нет, нужно самому бдить правильные ответы.

Тут просто всегда остается вопрос о том, а что же такое правда. Потому что понятие это довольно субъективное, в отличии от истины. Так вот, человек, пытающийся докопаться до правды, обычно сравнивает те данные, которые он находит "по пути" со своими убеждениями, опытом, с тем, как они вообще соотносятся с тем, что в его жизни происходит, насколько они отвечают его картине мира. Все это предполагает наличие личности. Для того, чтобы задать ИИ такую методику поиска, его сперва тоже следует наделить личными характеристиками, по сути, создать персоналию. Я очень сомневаюсь, что это возможно.

Правда это не ложь. Можно дать такое определение.
Соответственно ИИ должен попытаться опровергнуть искомое утверждение и после определенного количества неудачных попыток опровержения уже можно говорить о том, что это с определенной (большой) вероятностью правда.
Можно, например, установить, что для того, чтобы утверждение считалось правдой, необходимы 100 неудачных  попыток его опровержения. 1 попытка неудачного опровержения утверждения - оно правдиво на 1 процент. 100 попыток неудачного опровержения утверждения - это 100 процентная правда.
ИИ кстати по последним данным очень хорошо продвинулся в диагностике серьезных болезней, то есть он вполне себе хорошо умеет отличать правду от лжи.

[fgh]

Тут просто всегда остается вопрос о том, а что же такое правда. Потому что понятие это довольно субъективное, в отличии от истины.

По-моему, это одно и тоже. Во всяком случае, есть ли вторитетный источник, который бы разъяснил этот вопрос? Словари и энциклопедии тоже субъективны, ведь они составляются людьми.

Правда это не ложь. Можно дать такое определение.
Соответственно ИИ должен попытаться опровергнуть искомое утверждение и после определенного количества неудачных попыток опровержения уже можно говорить о том, что это с определенной (большой) вероятностью правда.

Помимо истины и лжи есть ещё абсурд, противоречивые утверждения (истинно-ложные), лукавство, а также утверждения, истинность которых неизвестна. Причём в последнем случае иногда эту неизвестность мы в принципе никак не сможет устранить или не сможем с помощью разумных ресурсов.
    Например, утверждение, что в далёком созвездии Тау Кита есть разумные крокозябры нам проверить будет крайне нереально.)

[owlest]

Помимо истины и лжи есть ещё абсурд, противоречивые утверждения (истинно-ложные), лукавство, а также утверждения, истинность которых неизвестна. Причём в последнем случае иногда эту неизвестность мы в принципе никак не сможет устранить или не сможем с помощью разумных ресурсов.
    Например, утверждение, что в далёком созвездии Тау Кита есть разумные крокозябры нам проверить будет крайне нереально.)

Вряд ли это можно назвать утверждением, больше подходит понятие "предположение", так как все, что касается будущего - нам неизвестно. Разве что кто-то изобрел машину времени и попал в далекое будущее и утверждает, что это действительно случится. Но поверите ли вы в это? Некоторые скептически относятся ко всему, что не видели своими глазами. Насчет понятия "лукавства", я бы дал этому определение - вранье во благо.

[Etranger]

Правда это не ложь. Можно дать такое определение.
Соответственно ИИ должен попытаться опровергнуть искомое утверждение и после определенного количества неудачных попыток опровержения уже можно говорить о том, что это с определенной (большой) вероятностью правда.
Можно, например, установить, что для того, чтобы утверждение считалось правдой, необходимы 100 неудачных  попыток его опровержения. 1 попытка неудачного опровержения утверждения - оно правдиво на 1 процент. 100 попыток неудачного опровержения утверждения - это 100 процентная правда.
ИИ кстати по последним данным очень хорошо продвинулся в диагностике серьезных болезней, то есть он вполне себе хорошо умеет отличать правду от лжи.

Я понимаю Вашу логику, но далеко не всегда это именно так работает. Люди склонны к определенному лавированию, к маневрам, они не мыслят запрограммировано, что вот 100 раз нужно что-то проверить, и тогда это можно брать за постулат. Они знают, что в одних случаях что-то работает, в других - нет. И готовы к тому, что бывают обстоятельства и условия, которые меняют их принципы и убеждения. Люди склонны делать исключения. Помню, Милан Кундера писал, что "любить - это делать исключение". Так вот, человек способен на это. А как можно запрограмировать на это ИИ?

[heyod hewow]

На острие технологий: аналитики a16z представили обновленный топ-100 ИИ-продуктов

Инвестиционный фонд a16z представил обновленный рейтинг 100 лучших продуктов на базе искусственного интеллекта. Как и в прошлый раз, перечень разделили на две категории: веб-сервисы и мобильные приложения. Эксперты определили лидеров в каждой из них, а также выявили определенные тенденции в сфере ИИ-продуктов.
Специалисты a16z указали, что в топ-10 самых популярных веб-сервисов на основе ИИ вошли:
GhatGPT
Character.ai
Perplexity
Claude
Suno
JanitorAI
QuillBot
Poe
Liner
CivitAI

В сравнении с мартовским рейтингом от фонда a16z из первой десятки лучших продуктов этой категории выпал чат-бот от корпорации Google — Gemini. Более того, ИИ-модель компании не попала даже в топ-50 веб-сервисов по версии экспертов. В прошлый раз продукт Google занимал второе место в рейтинге.

[DrBeer]

Это вопрос по своей сути о саморефлексии. Я лично считаю, что ИИ на это не способен, и заложить это невозможно. Потому я считаю, что он не сможет проверять истинность и ложность базовой информации, потому что это будут те незыблемые точки опоры, на которых и будет выстроен алгоритм его работы.

Но те, кто считает, что ИИ способен к развитию сознания и саморефлексии, сказали бы, что поддавать сомнению заложенный фундамент - это и есть логичный путь, которым идет интеллект. И что ИИ тоже к этому придет. А значит, он сможет пересмотреть то, что в нем было запрограммировано, и фактически переродиться во что-то иное, ведь он сделает свои собственные выводы, которые повлияют на его "личность".

ИИ стараются кормить сайтами, где информация более или менее подлинная, но даже это не дает стопроцентной уверенности, что его ответы являются истиной. Да, в этом случае можно провести параллель с человеком, который также с первого раза не может с уверенностью сказать, что информация подлинная, но в отличии от нейросети, он может начать копать в данном направлении и выяснить правду. Не знаю, можно ли создать алгоритм для ИИ, который будет заставлять нейросеть искать правду, и пока такого нет, нужно самому бдить правильные ответы.

А что для него будет считаться ПРАВДОЙ ? Какой критерий ? У него есть достаточно простой механизм: есть входные данные, на основании которых он построил базу знаний. И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла.  Но если у него на входе, для обучения не будет определений что такое шар и у каких фигур есть ребра. Он скажет чтото из серии - "ХЗ возможно яне могу ни подтвердить ни опровергнуть ваше заявление т.к. у меня отсуствуют данные". И правду он не найдет. Более того, если система будет обчуаться на ответах людей, и ему все нальют в уши что шар это фигура которая имеет ребра, а других данных у нег не будет - он вообще ответит на предыдущий вопрос утвердительно.

[Etranger]

И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла. 

Как он сможет поднять информацию о том, что такое шар, если ему уже задали в параметрах, что шар - это фигура с ребрами? Единственное, что он сможет поддать сомнению, это определение ребер, если он его найдет, и посмотрит, каким фигурам присуща характеристика иметь ребра, и не найдет среди этих фигур шара. Но самого определения шара, как фигуры без ребер он найти не сможет, потому что ему изначально сообщили, что шар - это фигура с ребрами.

[DrBeer]

И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла. 

Как он сможет поднять информацию о том, что такое шар, если ему уже задали в параметрах, что шар - это фигура с ребрами? Единственное, что он сможет поддать сомнению, это определение ребер, если он его найдет, и посмотрит, каким фигурам присуща характеристика иметь ребра, и не найдет среди этих фигур шара. Но самого определения шара, как фигуры без ребер он найти не сможет, потому что ему изначально сообщили, что шар - это фигура с ребрами.

В этом случае он получит "выводы" с низким весом - т.е. на входе он знает что "шар это фигура у которой есть ребра" и так говорят данные для обучения. С другой стороны, ему надо ЗАДАСТЬ себее вопрос - а что такое ребра и как это сопоставляется с "шаром обладающим ребрами". При этом найдя даже описание что есть ребра, он не получит "заключение, или выводы, о том считать ли шар фигурой с ребрами или нет, а значит не даст ответ, который базируется на результате обучения с "коэффициентом правильности" приемлемым для дачи ответа...  Но если его спросить что такое ребра - он ответит.

[DrBeer]

...
Инвестиционный фонд a16z представил обновленный рейтинг 100 лучших продуктов на базе искусственного интеллекта. Как и в прошлый раз, перечень разделили на две категории: веб-сервисы и мобильные приложения. Эксперты определили лидеров в каждой из них, а также выявили определенные тенденции в сфере ИИ-продуктов.
Специалисты a16z указали, что в топ-10 самых популярных веб-сервисов на основе ИИ вошли:
GhatGPT
Character.ai
Perplexity
Claude
Suno
JanitorAI
QuillBot
Poe
Liner
CivitAI

В сравнении с мартовским рейтингом от фонда a16z из первой десятки лучших продуктов этой категории выпал чат-бот от корпорации Google — Gemini. Более того, ИИ-модель компании не попала даже в топ-50 веб-сервисов по версии экспертов. В прошлый раз продукт Google занимал второе место в рейтинге.

От себя , из личного опыта добавлю: ранее использовал Phind для разработки. ChatGPT и Gemini были вспомогательными. После выхода нового ChatGPT  - приоритет отдал ему, т.к качество ответов стало реально выше конкурентов. Phind  и Gemini как то деградировали что ли... Но для меня получились менее качественными помощниками.
ПС Все построено и оценено на моих личных впечатлениях, а потому субьективно

[fgh]

И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла. 

Как он сможет поднять информацию о том, что такое шар, если ему уже задали в параметрах, что шар - это фигура с ребрами? Единственное, что он сможет поддать сомнению, это определение ребер, если он его найдет, и посмотрит, каким фигурам присуща характеристика иметь ребра, и не найдет среди этих фигур шара. Но самого определения шара, как фигуры без ребер он найти не сможет, потому что ему изначально сообщили, что шар - это фигура с ребрами.

В этом случае он получит "выводы" с низким весом - т.е. на входе он знает что "шар это фигура у которой есть ребра" и так говорят данные для обучения. С другой стороны, ему надо ЗАДАСТЬ себее вопрос - а что такое ребра и как это сопоставляется с "шаром обладающим ребрами". При этом найдя даже описание что есть ребра, он не получит "заключение, или выводы, о том считать ли шар фигурой с ребрами или нет, а значит не даст ответ, который базируется на результате обучения с "коэффициентом правильности" приемлемым для дачи ответа...  Но если его спросить что такое ребра - он ответит.

Нужна следующая стадия - научить ИИ самостоятельно находить глубокие противоречия во входных данных).
Типа: "Мои кормильцы информации скормили мне инфу о том, что есть шар и есть рёбра. Они утверждают, что шар - это фгура без рёбер. С другой стороны, в системе есть инфа о том, что шар - это фигура с рёбрами. Но если рассуждать логичски, то..."

[owlest]

А что для него будет считаться ПРАВДОЙ ? Какой критерий ? У него есть достаточно простой механизм: есть входные данные, на основании которых он построил базу знаний. И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла.  Но если у него на входе, для обучения не будет определений что такое шар и у каких фигур есть ребра. Он скажет чтото из серии - "ХЗ возможно яне могу ни подтвердить ни опровергнуть ваше заявление т.к. у меня отсуствуют данные". И правду он не найдет. Более того, если система будет обчуаться на ответах людей, и ему все нальют в уши что шар это фигура которая имеет ребра, а других данных у нег не будет - он вообще ответит на предыдущий вопрос утвердительно.

Поэтому я и говорю, что современный искусственный интеллект, совсем не "интеллект", а просто набор данных и программных алгоритмов. Его легко убедить, обмануть, заставить верить во что-то чуждое человеку, а если он еще будет подпитываться сайтами с заведомо ложной информацией, то это приведет к непоправимым последствиям. Представляете, что если кто-то скажет человеку, что шар - это фигура с ребрами? Он просто покрутит у виска и не станет даже говорить или переубеждать.

От себя , из личного опыта добавлю: ранее использовал Phind для разработки. ChatGPT и Gemini были вспомогательными. После выхода нового ChatGPT  - приоритет отдал ему, т.к качество ответов стало реально выше конкурентов. Phind  и Gemini как то деградировали что ли... Но для меня получились менее качественными помощниками.
ПС Все построено и оценено на моих личных впечатлениях, а потому субьективно

А мне лично из всех использованных нейросетей не нравится Копилот от Microsoft, иногда такие чудные ответы выдает... Хотя некоторые люди говорят, что это мы не умеем задавать правильных вопросов, то есть составлять промты для них, они как-то выжимают максимум качества даже из самых простых нейросетей.

[heyod hewow]

Нужна следующая стадия - научить ИИ самостоятельно находить глубокие противоречия во входных данных).

Сами учителя (мы) еще не очень сильны в том, чтобы самостоятельно находить глубокие противоречия во входных данных. )) Мы сами-то опираемся на довольно шаткие основания: здравый смысл, общепринятая научная парадигма и т.н. общественный договор. Все эти штуки весьма относительны и дрейфуют со временем в любую сторону.

Но если мы хотим, чтобы ИИ "был как мы" и видел "противоречия" точно так же как мы, то ему всего лишь надо "загрузить" алгоритмы нашего здравого смысла (суть опыт тысячелетий ) и раз в сутки обновлять общепринятую научную парадигму и общественный договор. 

"Мои кормильцы информации скормили мне инфу о том, что есть шар и есть рёбра. Они утверждают, что шар - это фгура без рёбер. С другой стороны, в системе есть инфа о том, что шар - это фигура с рёбрами. Но если рассуждать логичски, то..."

Тоже все относительно. Зависит от системы координат. В геометрии Лобачевского шар это фигура с ребрами, а в неоткрытой пока геометрии Лешневского-Финкельштейна шар это бутылка Кляйна, но только в пятницу, в остальные дни это бутылка без Кляйна. 

[DrBeer]

И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла. 

Как он сможет поднять информацию о том, что такое шар, если ему уже задали в параметрах, что шар - это фигура с ребрами? Единственное, что он сможет поддать сомнению, это определение ребер, если он его найдет, и посмотрит, каким фигурам присуща характеристика иметь ребра, и не найдет среди этих фигур шара. Но самого определения шара, как фигуры без ребер он найти не сможет, потому что ему изначально сообщили, что шар - это фигура с ребрами.

В этом случае он получит "выводы" с низким весом - т.е. на входе он знает что "шар это фигура у которой есть ребра" и так говорят данные для обучения. С другой стороны, ему надо ЗАДАСТЬ себее вопрос - а что такое ребра и как это сопоставляется с "шаром обладающим ребрами". При этом найдя даже описание что есть ребра, он не получит "заключение, или выводы, о том считать ли шар фигурой с ребрами или нет, а значит не даст ответ, который базируется на результате обучения с "коэффициентом правильности" приемлемым для дачи ответа...  Но если его спросить что такое ребра - он ответит.

Нужна следующая стадия - научить ИИ самостоятельно находить глубокие противоречия во входных данных).
Типа: "Мои кормильцы информации скормили мне инфу о том, что есть шар и есть рёбра. Они утверждают, что шар - это фгура без рёбер. С другой стороны, в системе есть инфа о том, что шар - это фигура с рёбрами. Но если рассуждать логичски, то..."

Отвечу двумя словами: критическое мышление

Критическое мышление — это система суждений, которая позволяет анализировать информацию таким образом, чтобы на ее основании принимать рациональные решения. (с) Вики

МЫШЛЕНИЕ - ключевое слово. А у т.н. ИИ мышления НЕТ ! У него есть только набор внешних команд , внешнего набора данных, и данных предоставленных  человеками.

Можно конечно к каждому запросу добавлять - только проверь все входящие данные, предположи что они имеют не верные утверждения, и их необходимо выявить и "исправить". Наверное так можно  попробовать реализовать вашу идею:)

[DrBeer]

А что для него будет считаться ПРАВДОЙ ? Какой критерий ? У него есть достаточно простой механизм: есть входные данные, на основании которых он построил базу знаний. И если есму сказать например Шар - это фигура с ребрами, он просто подняв данные что такое ребра и что такое шар, выдаст что вы ошибаетесь, шар не имеет ребер потому что блаблабла.  Но если у него на входе, для обучения не будет определений что такое шар и у каких фигур есть ребра. Он скажет чтото из серии - "ХЗ возможно яне могу ни подтвердить ни опровергнуть ваше заявление т.к. у меня отсуствуют данные". И правду он не найдет. Более того, если система будет обчуаться на ответах людей, и ему все нальют в уши что шар это фигура которая имеет ребра, а других данных у нег не будет - он вообще ответит на предыдущий вопрос утвердительно.

Поэтому я и говорю, что современный искусственный интеллект, совсем не "интеллект", а просто набор данных и программных алгоритмов. Его легко убедить, обмануть, заставить верить во что-то чуждое человеку, а если он еще будет подпитываться сайтами с заведомо ложной информацией, то это приведет к непоправимым последствиям. Представляете, что если кто-то скажет человеку, что шар - это фигура с ребрами? Он просто покрутит у виска и не станет даже говорить или переубеждать.

От себя , из личного опыта добавлю: ранее использовал Phind для разработки. ChatGPT и Gemini были вспомогательными. После выхода нового ChatGPT  - приоритет отдал ему, т.к качество ответов стало реально выше конкурентов. Phind  и Gemini как то деградировали что ли... Но для меня получились менее качественными помощниками.
ПС Все построено и оценено на моих личных впечатлениях, а потому субьективно

А мне лично из всех использованных нейросетей не нравится Копилот от Microsoft, иногда такие чудные ответы выдает... Хотя некоторые люди говорят, что это мы не умеем задавать правильных вопросов, то есть составлять промты для них, они как-то выжимают максимум качества даже из самых простых нейросетей.

1. Вот об этом я уже давно говорю и пытаюсь донести, что это не ИИ, а по классике - Большая Языковая модель + База знаний + нейросеть (для обработки и систематизации информации)+ алгоритмы и команды от человеков. Но людям хочется верить в пока фантастику... А потом бояться что он нас изведут потом   
2. Да, это верное утверждение - пока не поставишь/не сформулируешь правильный вопрос - ожидать правильного ответа нельзя. Точнее моно но не будет. И чем сложнее тема, тем более четко надо прописывать вопрос, фактически прописывая пошаговый алгоритм ответа. Как говорится - в правильном вопросе 50% ответа На "ИИ" это проявляется очень сильно