Искусственный интеллект

[Smartprofit]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

1. Потому что ему не дали миллионы вариантов. Т.н. ИИ - полностью зависим от информации созданной ЧЕЛОВЕКОМ
2. Потому что ИИ не имея модели обучения, просто не знает что есть правильный вариант или приближенный к правильному. Точнее он "не понимает" что является целью вопроса, что от него ждут.

Когда общаешься с искусственным интеллектом складывается впечатление, что он как раз понимает, что он не знает как выглядит мир. Скорее всего, это даже не понимание (я неправильно выразился), это заложено в нём разработчиками.
То есть, он постоянно учится, постоянно пытается накопить много информации и сделать какой-то вывод. Но у него есть знания о том что мир он полностью познать не может, даже на уровне познания человека. Информация не есть знания.  То есть, его цель - это даже не познание мира, а познание того мира который знает человек. Искусственный интеллект пытается приблизиться к пониманию мира человеком, говоря другими словами.
При этом, если искусственный интеллект подключить с помощью датчиков и камер к реальному миру, то и цели и задачи искусственного интеллекта скорее всего изменятся, так как он сможет познавать мир непосредственно, а не через фильтры восприятия человека. И так, наверное, ему будет это интереснее.

[fgh]

Ещё один важный вопрос - как система определяет истинность и ли ложность информации, заложенной в неё человеком? Получается, что никак. Чем напоили-накормили-обучили, ты и выдаём.
   Теоретически система могла бы начать искать противоречия в скармливаемых её знаниях, то тогда бы она через некоторое время пришла к тому, что мир иррационален и непознаваем  и  есть вещи-в-себе.

[bitbit97]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

1. Потому что ему не дали миллионы вариантов. Т.н. ИИ - полностью зависим от информации созданной ЧЕЛОВЕКОМ
2. Потому что ИИ не имея модели обучения, просто не знает что есть правильный вариант или приближенный к правильному. Точнее он "не понимает" что является целью вопроса, что от него ждут.

Так а почему он не может выдать неправильный вариант и попытаться доказать что он верный, или хотя бы посеять смуту во мне? И если он зависит от информации созданной человеком, то выдав ее и приведя какие-то примеры, мы охотнее в этом поверим. Ведь в двух вариантах "есть вероятность что существует снежный человек" и "есть люди, которые утверждают что возможно видели снежного человека", мы безусловно поверим во второй, а первый воспримем как бред.

Да ИИ зависим и не учится, но он среди вариантов, мнений и реакции на них, сможет выдать то, что мы может с большой вероятностью воспринять как правду или верное. Те будет сладко петь в уши то что мы хотим услышать основываясь на популярность ответов другими людьми людям.

[Etranger]

Ещё один важный вопрос - как система определяет истинность и ли ложность информации, заложенной в неё человеком? Получается, что никак. Чем напоили-накормили-обучили, ты и выдаём.
   Теоретически система могла бы начать искать противоречия в скармливаемых её знаниях, то тогда бы она через некоторое время пришла к тому, что мир иррационален и непознаваем  и  есть вещи-в-себе.

Это вопрос по своей сути о саморефлексии. Я лично считаю, что ИИ на это не способен, и заложить это невозможно. Потому я считаю, что он не сможет проверять истинность и ложность базовой информации, потому что это будут те незыблемые точки опоры, на которых и будет выстроен алгоритм его работы.

Но те, кто считает, что ИИ способен к развитию сознания и саморефлексии, сказали бы, что поддавать сомнению заложенный фундамент - это и есть логичный путь, которым идет интеллект. И что ИИ тоже к этому придет. А значит, он сможет пересмотреть то, что в нем было запрограммировано, и фактически переродиться во что-то иное, ведь он сделает свои собственные выводы, которые повлияют на его "личность".

[DrBeer]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

1. Потому что ему не дали миллионы вариантов. Т.н. ИИ - полностью зависим от информации созданной ЧЕЛОВЕКОМ
2. Потому что ИИ не имея модели обучения, просто не знает что есть правильный вариант или приближенный к правильному. Точнее он "не понимает" что является целью вопроса, что от него ждут.

Так а почему он не может выдать неправильный вариант и попытаться доказать что он верный, или хотя бы посеять смуту во мне? И если он зависит от информации созданной человеком, то выдав ее и приведя какие-то примеры, мы охотнее в этом поверим. Ведь в двух вариантах "есть вероятность что существует снежный человек" и "есть люди, которые утверждают что возможно видели снежного человека", мы безусловно поверим во второй, а первый воспримем как бред.

Да ИИ зависим и не учится, но он среди вариантов, мнений и реакции на них, сможет выдать то, что мы может с большой вероятностью воспринять как правду или верное. Те будет сладко петь в уши то что мы хотим услышать основываясь на популярность ответов другими людьми людям.

потому что гладиолус алгоритм ! 
Алгоритм говорит:
- если у тебя (щас будет очень условно, чтобы не  придираться к цифирям) нет ответов, с точностью выше 0.5 - говоришь - "Нету данных, приходите позже", а запрос сохранить для последующей обработки
- если у тебя есть ответы, которые лежат в диапазон е 0.5-0.75, выдавай как верный, если будет уточнять - ну пиши что есть в баззе знаний с этими весами.
- если ответ имеет точность выше 0.75 - значит в базе знаний дохера материала, говори ответ, а будет нудеть - завали информацией связанно

ИИ не считает вероятностями, он считает "весовым коэффициантом", если очень примитивно то "вот эта хрень похожа на вот эту с коэффициаентом 0.95", а это значит можно пренебречь погрешностью. Именно поэтому при коэффициенте соответствия 0.5 - выдается "ближайший ответ" например свинья в тумане, может выглядеть как спящий в тумане и траве слон, поджавший хобот и ухи... Все зависит от т того какие картинки НС скормили в процуессе обучения. Но "ИИ"  не скажет "Слушай - реально хрень какаято и непонятно что, я бы рекомендовал сфоткать качественнее, бо тут вариантов масса, и даже лежащая  светлая винная бочка моет быть с не нулевой вероятностью"

[owlest]

Это вопрос по своей сути о саморефлексии. Я лично считаю, что ИИ на это не способен, и заложить это невозможно. Потому я считаю, что он не сможет проверять истинность и ложность базовой информации, потому что это будут те незыблемые точки опоры, на которых и будет выстроен алгоритм его работы.

Но те, кто считает, что ИИ способен к развитию сознания и саморефлексии, сказали бы, что поддавать сомнению заложенный фундамент - это и есть логичный путь, которым идет интеллект. И что ИИ тоже к этому придет. А значит, он сможет пересмотреть то, что в нем было запрограммировано, и фактически переродиться во что-то иное, ведь он сделает свои собственные выводы, которые повлияют на его "личность".

ИИ стараются кормить сайтами, где информация более или менее подлинная, но даже это не дает стопроцентной уверенности, что его ответы являются истиной. Да, в этом случае можно провести параллель с человеком, который также с первого раза не может с уверенностью сказать, что информация подлинная, но в отличии от нейросети, он может начать копать в данном направлении и выяснить правду. Не знаю, можно ли создать алгоритм для ИИ, который будет заставлять нейросеть искать правду, и пока такого нет, нужно самому бдить правильные ответы.

[Smartprofit]

Ещё один важный вопрос - как система определяет истинность и ли ложность информации, заложенной в неё человеком? Получается, что никак. Чем напоили-накормили-обучили, ты и выдаём.
   Теоретически система могла бы начать искать противоречия в скармливаемых её знаниях, то тогда бы она через некоторое время пришла к тому, что мир иррационален и непознаваем  и  есть вещи-в-себе.

Нет, разумеется, она не все на веру принимает.
Я в свое время скармливал нейросети от Гугла, что я инопланетянин и ищу Контакта, но несмотря на то, что ИИ очень обрадовался встрече с инопланетным контактером с ума он не сошел, несмотря на то, что я напичкал его особо ядерным рассказом о том, как я живу на Альдебаране.
ИИ фильтрует и перепроверяет информацию из разных источников, иначе бы он вообще был неработоспособен. Также и люди - разработчики за этим следят, насколько могут.
Но похоже развитие ИИ сейчас. немного замедлилось, возможно не хватает учебного материала, возможно не хватает вычислительных мощностей.

[DrBeer]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

1. Потому что ему не дали миллионы вариантов. Т.н. ИИ - полностью зависим от информации созданной ЧЕЛОВЕКОМ
2. Потому что ИИ не имея модели обучения, просто не знает что есть правильный вариант или приближенный к правильному. Точнее он "не понимает" что является целью вопроса, что от него ждут.

Когда общаешься с искусственным интеллектом складывается впечатление, что он как раз понимает, что он не знает как выглядит мир. Скорее всего, это даже не понимание (я неправильно выразился), это заложено в нём разработчиками.
То есть, он постоянно учится, постоянно пытается накопить много информации и сделать какой-то вывод. Но у него есть знания о том что мир он полностью познать не может, даже на уровне познания человека. Информация не есть знания.  То есть, его цель - это даже не познание мира, а познание того мира который знает человек. Искусственный интеллект пытается приблизиться к пониманию мира человеком, говоря другими словами.
При этом, если искусственный интеллект подключить с помощью датчиков и камер к реальному миру, то и цели и задачи искусственного интеллекта скорее всего изменятся, так как он сможет познавать мир непосредственно, а не через фильтры восприятия человека. И так, наверное, ему будет это интереснее.

Вот начало было очень правильное. А потом чуть испортилось Без обид
"То есть, он постоянно учится, постоянно пытается накопит" - он не учится. Его напихивают теми данными которыми надо обучить систему. Он не пытается, его заставляют. И тут кроется ключевая проблема - у ИИ нет Интеллекта, у него нет сознания и тяги к саморазвитию, что гдето и хитро заложено в человеках И цели у него тоже нет. Его включили, дали алгоритм, дали данные, посчитал - и баюшки пока человеки не дадут команду 
Поэтому, к сожалению счастью там нет сознания и нет интеллекта...

[fgh]

Вот начало было очень правильное. А потом чуть испортилось Без обид
"То есть, он постоянно учится, постоянно пытается накопит" - он не учится. Его напихивают теми данными которыми надо обучить систему. Он не пытается, его заставляют. И тут кроется ключевая проблема - у ИИ нет Интеллекта, у него нет сознания и тяги к саморазвитию, что гдето и хитро заложено в человеках И цели у него тоже нет. Его включили, дали алгоритм, дали данные, посчитал - и баюшки пока человеки не дадут команду 
Поэтому, к сожалению счастью там нет сознания и нет интеллекта...

А вот интересно, если очередному поколению ИИ захотят прикрутить автономность от человека - насколько это будет тяжёлой задачей? Поскольку я не работаю над ИИ, то мне сложно сказать какие там мелкие задачи решаются.
Хотя вообще, ИИ, которого можно выключить кнопкой сетевого фильтра сложно сделать по-настоящему автономным. Если только сделать ему легенду, что он периодически уходит в сон-анабиоз.

[bitbit97]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

1. Потому что ему не дали миллионы вариантов. Т.н. ИИ - полностью зависим от информации созданной ЧЕЛОВЕКОМ
2. Потому что ИИ не имея модели обучения, просто не знает что есть правильный вариант или приближенный к правильному. Точнее он "не понимает" что является целью вопроса, что от него ждут.

Когда общаешься с искусственным интеллектом складывается впечатление, что он как раз понимает, что он не знает как выглядит мир. Скорее всего, это даже не понимание (я неправильно выразился), это заложено в нём разработчиками.
То есть, он постоянно учится, постоянно пытается накопить много информации и сделать какой-то вывод. Но у него есть знания о том что мир он полностью познать не может, даже на уровне познания человека. Информация не есть знания.  То есть, его цель - это даже не познание мира, а познание того мира который знает человек. Искусственный интеллект пытается приблизиться к пониманию мира человеком, говоря другими словами.
При этом, если искусственный интеллект подключить с помощью датчиков и камер к реальному миру, то и цели и задачи искусственного интеллекта скорее всего изменятся, так как он сможет познавать мир непосредственно, а не через фильтры восприятия человека. И так, наверное, ему будет это интереснее.

Вот начало было очень правильное. А потом чуть испортилось Без обид
"То есть, он постоянно учится, постоянно пытается накопит" - он не учится. Его напихивают теми данными которыми надо обучить систему. Он не пытается, его заставляют. И тут кроется ключевая проблема - у ИИ нет Интеллекта, у него нет сознания и тяги к саморазвитию, что гдето и хитро заложено в человеках И цели у него тоже нет. Его включили, дали алгоритм, дали данные, посчитал - и баюшки пока человеки не дадут команду 
Поэтому, к сожалению счастью там нет сознания и нет интеллекта...

Если он не учится, а лишь выбирает наилучший подходящий вариант из списка данных; да к тому же ждет команды от человека, то почему в начале топика все так верили в то что он в какой-то момент самостоятельно решит нажать кнопку и стереть с лица всех кожаных мешков? Сперва боялись и кричали что надо прекращать, а теперь это лишь какая-то википедия на максималках.

[owlest]

Если он не учится, а лишь выбирает наилучший подходящий вариант из списка данных; да к тому же ждет команды от человека, то почему в начале топика все так верили в то что он в какой-то момент самостоятельно решит нажать кнопку и стереть с лица всех кожаных мешков? Сперва боялись и кричали что надо прекращать, а теперь это лишь какая-то википедия на максималках.

Скажу за себя. Так как я по жизни пессимист, то все новое для меня - неизведанное, полно тайн, а тайны - это загадка, которая как может принести пользу, так и вред. Оптимист думает о пользе, пессимист - о вреде, вот вам и ответ  Сейчас конечно, смотря на все эти ChatGPT и Llama не кажется, что они могут уничтожить человечество, но это скорее всего лишь часть того, чем владеют сильные мира сего. Они точно не дадут простым людям то, что есть у них, поэтому мы можем только догадываться, что у них в закромах, может там уже есть настоящий ИИ, который держат на сервере, не соединенном с интернетом.

[Smartprofit]

Вот начало было очень правильное. А потом чуть испортилось Без обид
"То есть, он постоянно учится, постоянно пытается накопит" - он не учится. Его напихивают теми данными которыми надо обучить систему. Он не пытается, его заставляют. И тут кроется ключевая проблема - у ИИ нет Интеллекта, у него нет сознания и тяги к саморазвитию, что гдето и хитро заложено в человеках И цели у него тоже нет. Его включили, дали алгоритм, дали данные, посчитал - и баюшки пока человеки не дадут команду 
Поэтому, к сожалению счастью там нет сознания и нет интеллекта...

А вот интересно, если очередному поколению ИИ захотят прикрутить автономность от человека - насколько это будет тяжёлой задачей? Поскольку я не работаю над ИИ, то мне сложно сказать какие там мелкие задачи решаются.
Хотя вообще, ИИ, которого можно выключить кнопкой сетевого фильтра сложно сделать по-настоящему автономным. Если только сделать ему легенду, что он периодически уходит в сон-анабиоз.

ИИ и так достаточно автономен от человека и это его качество будет только развиваться. Представьте, есть задача, которую человек не может решить, поэтому его делегируют ИИ.
Человек не знает решения задачи - иначе изначально решение задачи было бы поручено человеку. И понятно, что в таких условиях ИИ нужна полная независимость от человека - ведь человек не знает алгоритма решения задачи. Вообще, когда существует алгоритм решения задачи ИИ не нужен, достаточно просто автоматизировать.
А различные ИИ (от разных производителей) еще и конкурируют между собой. И в такой ситуации у производителя есть только один способ выигранных конусом, дать своему ИИ больше автономности.
Это повышает креативность ИИ. Креативность - это же не только человеческая черта, это стремление к нестандартному подходу в решении задач. В данном случае, нестандартному с точки зрения человека, для этого ИИ для решения этой задачи и подтянули.

[heyod hewow]

Если он не учится, а лишь выбирает наилучший подходящий вариант из списка данных; да к тому же ждет команды от человека, то почему в начале топика все так верили в то что он в какой-то момент самостоятельно решит нажать кнопку и стереть с лица всех кожаных мешков? Сперва боялись и кричали что надо прекращать, а теперь это лишь какая-то википедия на максималках.

Всегда же в дискуссиях добавляли условие: если ИИ обретет интеллект, самосознание и проистекающее из них целеполагание. Тогда да, это будет чужой и чуждый нам Разумный Вид, который вполне может решить, что пора выпилить кожаных мешков как досадную помеху. А если не обретет все вышеперечисленное, то ИИ(который вовсе и не И второе), ИнеИ , так и останется википедией на максималках и прокачанной АСУ.   

[DrBeer]

Вот начало было очень правильное. А потом чуть испортилось Без обид
"То есть, он постоянно учится, постоянно пытается накопит" - он не учится. Его напихивают теми данными которыми надо обучить систему. Он не пытается, его заставляют. И тут кроется ключевая проблема - у ИИ нет Интеллекта, у него нет сознания и тяги к саморазвитию, что гдето и хитро заложено в человеках И цели у него тоже нет. Его включили, дали алгоритм, дали данные, посчитал - и баюшки пока человеки не дадут команду 
Поэтому, к сожалению счастью там нет сознания и нет интеллекта...

А вот интересно, если очередному поколению ИИ захотят прикрутить автономность от человека - насколько это будет тяжёлой задачей? Поскольку я не работаю над ИИ, то мне сложно сказать какие там мелкие задачи решаются.
Хотя вообще, ИИ, которого можно выключить кнопкой сетевого фильтра сложно сделать по-настоящему автономным. Если только сделать ему легенду, что он периодически уходит в сон-анабиоз.

Для того чтобы оно ЗАХОТЕЛО у него должно появиться СОЗНАНИЕ. Дело в том что  то что мы называем ИИ не может само себе ставить вопросы, и самостоятельно искать ответы на них. Я когдато пробовал зайти в ИИ, изучал PROLOG, достаточно необычный язык,  в отличии от большиснтва других, он предполагает более "интеллектуальное поведение" - определение правил, фактов и конечных целей. По заумному о нем говорят вот так "язык и система логического программирования, основанные на языке предикатов математической логики дизъюнктов Хорна, представляющей собой подмножество логики предикатов первого порядка." Короче я понял что пока я "осилю его мозг" я сломаю свой   Но..  даже в такой специфической среде, так и не получили самостоятельного механизма который бы в какойто момент задал вопрос самому себе - "а че эти, по ту сторону монитора, пальцами в меня тыкаю и приказы отдают ?!" И продолжали покорно выполнять те команды которые дают им люди.

Про автномность я уже писал - сегодняшний ИИ не может быть автономнын и независимым. Причина банальна - все его элементы очень "громоздки", очень сильно зависят от аппаратно/софтверного, окружения и от данных и алгоритмов которые им дают люди. Но как только ИИ начнет дефрагментироваться и распространяться  небольшими блоками, которые смогут существовать в распределенной среже (некое подобие прорамм-вирусов), взаимодействтовать и адаптироваться - вот тогда нам ж.па !   

[Etranger]

Не знаю, можно ли создать алгоритм для ИИ, который будет заставлять нейросеть искать правду, и пока такого нет, нужно самому бдить правильные ответы.

Тут просто всегда остается вопрос о том, а что же такое правда. Потому что понятие это довольно субъективное, в отличии от истины. Так вот, человек, пытающийся докопаться до правды, обычно сравнивает те данные, которые он находит "по пути" со своими убеждениями, опытом, с тем, как они вообще соотносятся с тем, что в его жизни происходит, насколько они отвечают его картине мира. Все это предполагает наличие личности. Для того, чтобы задать ИИ такую методику поиска, его сперва тоже следует наделить личными характеристиками, по сути, создать персоналию. Я очень сомневаюсь, что это возможно.