Искусственный интеллект

[DrBeer]

Опять же опираясь на свой несколько десятилетний опыт в ИТ и разных проектах, скажу что нет понятия "понять что делать". На сегодня есть наборы команд, и алгоритмы. Первые обрабатываю данные, вторые четко говорят как. 
Именно поэтому мы видели картинку "лосось в реке", множественные приколы с пальцами и т.п. Причина банальна - ИИ не думает, он берет то что ему дали, пытается понять что ему "сказали" и ПЫТАЕТСЯ выдать ответ который будет +/- соответствовать вопросу, при условии что он корректно сформирован а система его правильно "поняла"

Я понимаю с текстами, что он пишет то, что найдет в интернете, но как быть с изображениями? Взять к примеру, многопальцевость человеков: откуда он это взял? На чем основывается его мнение? В сети раньше не было изображений людей с большим, чем 5 количеством пальцев? Почему именно пальцев, а не носов, голов, глаз? Если он рисует что-то лишнее, значит его этому обучили? Может на первых этапах обучения произошла ошибка?

Это не научили как раз Я предположу, что сеть обучали на множестве фотографий где не были видны все пальцы. У когото рука боком, ктото пальцы скрючил и т.д. и т.п., а вот лица в большинстве случаев видны 2 глаза и 1 нос. Кстати с ушами тоже были нюансы, иногда получались портреты без одного уха, потому что лицо чуть повернутое скрывает одно из ухов Так что не надо искать сложное пояснение, все предельно просто ! Используем принцип "Бритва Оккама" при поиске ответа

[fgh]

Причина банальна - ИИ не думает, он берет то что ему дали, пытается понять что ему "сказали" и ПЫТАЕТСЯ выдать ответ который будет +/- соответствовать вопросу, при условии что он корректно сформирован а система его правильно "поняла"

Если ИИ "пытается понять", значит он всё-таки "думает".
Но в целом сложно понять где проходит та грань, до которой он просто комбинирует то, что ему задали алгоритмом, а после которой начинает сам комбинировать так, что ни у кого не возникнет сомнений в том, что он думает.
Думаю, что второе возникнет только тогда, когда он начнёт решать сложные и плохо формулированные логические задачи.

[heyod hewow]

Если ИИ "пытается понять", значит он всё-таки "думает".
Но в целом сложно понять где проходит та грань, до которой он просто комбинирует то, что ему задали алгоритмом, а после которой начинает сам комбинировать так, что ни у кого не возникнет сомнений в том, что он думает.

У человеков тоже есть довольно мутная и размытая грань между "думает" и "решает задачу по давно заученному алгоритму", и часто провести точную границу для конкретного индивида, упершегося в конкретную задачу - довольно трудно.

Думаю, что второе возникнет только тогда, когда он начнёт решать сложные и плохо формулированные логические задачи.

Но ведь совсем не факт, что ИИ будет решать эти самые сложные и плохо формулированные логические задачи правильно! Он может выдать решение, которое сам ИИ "сочтет" правильным, но оно будет неправильным (ошибочным и даже опасным) с точки зрения человека. Распространенные т.н. "галлюцинации ИИ" - тому пример.
Какие у ИИ есть "критерии истинности"?

У человеков они хоть какие-то да есть, перечислю некоторые: "логика + здравый смысл", "критическое мышление", "опыт тысячелетий", "общественный договор", "миллиард мух не могут ошибаться, говно - это вкусно" и т.д.
А у ИИ какие?

[DrBeer]

Причина банальна - ИИ не думает, он берет то что ему дали, пытается понять что ему "сказали" и ПЫТАЕТСЯ выдать ответ который будет +/- соответствовать вопросу, при условии что он корректно сформирован а система его правильно "поняла"

Если ИИ "пытается понять", значит он всё-таки "думает".
Но в целом сложно понять где проходит та грань, до которой он просто комбинирует то, что ему задали алгоритмом, а после которой начинает сам комбинировать так, что ни у кого не возникнет сомнений в том, что он думает.
Думаю, что второе возникнет только тогда, когда он начнёт решать сложные и плохо формулированные логические задачи.

Отвечу словом их трех букв БЯМ
Большая Языковая Модель - там тоже нет интеллекта есть алгоритмистика которая переводит человечий язык в наборы команд которые "понимает" бинарная вычислительная система.
И про он "комбинирует", нет он не комбинирует, он точно также на основании базы знаний, примеров, образов (если мы говорим про изображения или видео), а также алгоритмов генерации и постобработки "создает" ответ ...

Очень рекомендую вот это видео

=3621 - это отрезок беседы где именно про т.н. "ИИ". Хотя и все видео очень познавательное

[owlest]

Это не научили как раз Я предположу, что сеть обучали на множестве фотографий где не были видны все пальцы. У когото рука боком, ктото пальцы скрючил и т.д. и т.п., а вот лица в большинстве случаев видны 2 глаза и 1 нос. Кстати с ушами тоже были нюансы, иногда получались портреты без одного уха, потому что лицо чуть повернутое скрывает одно из ухов Так что не надо искать сложное пояснение, все предельно просто ! Используем принцип "Бритва Оккама" при поиске ответа

Значит вина за неработоспособность таких ресурсов полностью ложится на плечи создателей. Возможно ли это исправить умелым промптом - не знаю, особо не увлекаюсь созданием изображением)

У человеков тоже есть довольно мутная и размытая грань между "думает" и "решает задачу по давно заученному алгоритму", и часто провести точную границу для конкретного индивида, упершегося в конкретную задачу - довольно трудно.

И вот здесь опять можно вернуться назад к спору об отличниках, которые делятся как раз по этому принципу. Одни как раз похожи на современный искусственные интеллект, который использует заранее оговоренный алгоритм, разобранный на уроке. Но это действует до того момента, когда условия новой задачи схожи с условиями ранее изученного алгоритма. Если нет - полный ступор. А вот человек, который думает, ему все равно, какое условие, он его без труда преобразует в понятное для него и решает такие задачи быстро и легко.

[fgh]

И про он "комбинирует", нет он не комбинирует, он точно также на основании базы знаний, примеров, образов (если мы говорим про изображения или видео), а также алгоритмов генерации и постобработки "создает" ответ ...

Получается, что тоже не сильно большая разница с живым человеком. Человек тоже иногда комбинирует, а чаще создаёт ответ на базе нейронных естественных взаимодействий (которые можно сравнить с алгоритмами до известной степени). Это естественные нейронные взаимодействия тоже похожи на алгоритмы генерации и постобработки.
  Некоторые люди с пограничной интеллектуальной недостаточностью не сильно лучше ИИ дают ответы.

[DrBeer]

Это не научили как раз Я предположу, что сеть обучали на множестве фотографий где не были видны все пальцы. У когото рука боком, ктото пальцы скрючил и т.д. и т.п., а вот лица в большинстве случаев видны 2 глаза и 1 нос. Кстати с ушами тоже были нюансы, иногда получались портреты без одного уха, потому что лицо чуть повернутое скрывает одно из ухов Так что не надо искать сложное пояснение, все предельно просто ! Используем принцип "Бритва Оккама" при поиске ответа

Значит вина за неработоспособность таких ресурсов полностью ложится на плечи создателей. Возможно ли это исправить умелым промптом - не знаю, особо не увлекаюсь созданием изображением)

У человеков тоже есть довольно мутная и размытая грань между "думает" и "решает задачу по давно заученному алгоритму", и часто провести точную границу для конкретного индивида, упершегося в конкретную задачу - довольно трудно.

И вот здесь опять можно вернуться назад к спору об отличниках, которые делятся как раз по этому принципу. Одни как раз похожи на современный искусственные интеллект, который использует заранее оговоренный алгоритм, разобранный на уроке. Но это действует до того момента, когда условия новой задачи схожи с условиями ранее изученного алгоритма. Если нет - полный ступор. А вот человек, который думает, ему все равно, какое условие, он его без труда преобразует в понятное для него и решает такие задачи быстро и легко.

1. Тут нет вины. Разработчики пишут алгоритмы для работы с данными. И основа так называемого сегодняшнего ИИ - это огромные обьемы сырых данных,  их тегирование и т.п. действия для получения "обученной модели".
2. Отличники отдельная тема У меня в институте был прекрасный профессор, преподавал АСУ (автоматизированные системы управления). Наука не самая простая... Но он всегда говорил - НЕ ЗАУЧИВАЙТЕ, а ПОМИТЕ как это работает. На экзамене он раздавал билеты, и "...я пошел погуляю, у вас 3 часа, шпаргалки доставайте, в библиотеку идите берите что надо. Вы мне будете показывать не формулы а ЗНАНИЯ".

[heyod hewow]

Coinbase провела первую криптотранзакцию между ИИ-агентами

Генеральный директор криптовалютной биржи Coinbase Брайан Армстронг заявил, что компания стала свидетелем первой криптовалютной транзакции между ИИ-агентами. По его словам, бот приобрел у другого приложения на базе искусственных технологий ИИ-токены для LLM за счет цифровых активов.

Армстронг отметил, что такие агенты не могут иметь банковские счета, однако им можно предоставить доступ к криптокошелькам. По его словам, теперь боты на базе ИИ способны использовать USDC для проведения торговых операций с трейдерами, другими программами или рядовыми пользователями.

Отметим, что CEO Coinbase говорит о покупке ботом специальных ИИ-токенов. Это последовательность текстовых символов, которые используют большие языковые модели (LLM).

[fgh]

Но ведь совсем не факт, что ИИ будет решать эти самые сложные и плохо формулированные логические задачи правильно! Он может выдать решение, которое сам ИИ "сочтет" правильным, но оно будет неправильным (ошибочным и даже опасным) с точки зрения человека. Распространенные т.н. "галлюцинации ИИ" - тому пример.
Какие у ИИ есть "критерии истинности"?

У человеков они хоть какие-то да есть, перечислю некоторые: "логика + здравый смысл", "критическое мышление", "опыт тысячелетий", "общественный договор", "миллиард мух не могут ошибаться, говно - это вкусно" и т.д.
А у ИИ какие?

Так и человеки не всегда решают логические задачки правильно. А если честно - то вообще мало когда. И логические и математические. Есть известные задачки при поступлении на работу, ну известные типа когда кувшинки заполнят половину пруда или про стоимость теннисной ракетки и мяча.
   Мышление человеков насквозь пронизано когнитивными искажениями.

[DrBeer]

И про он "комбинирует", нет он не комбинирует, он точно также на основании базы знаний, примеров, образов (если мы говорим про изображения или видео), а также алгоритмов генерации и постобработки "создает" ответ ...

Получается, что тоже не сильно большая разница с живым человеком. Человек тоже иногда комбинирует, а чаще создаёт ответ на базе нейронных естественных взаимодействий (которые можно сравнить с алгоритмами до известной степени). Это естественные нейронные взаимодействия тоже похожи на алгоритмы генерации и постобработки.
  Некоторые люди с пограничной интеллектуальной недостаточностью не сильно лучше ИИ дают ответы.

Да, в данном контексте да, есть схожее поведение, но... Как всегда - нюансы
В так называемом ИИ действительно заложили "человеческое поведение" а именно обучение, правда НАСИЛЬНО. Почему выделил НАСИЛЬНО - потому что человек САМОСТОЯТЕЛЬНО накапливает, ищет, анализирует и комбинирует наборы данных.  Так называемому "ИИ" ЛЮДИ указываю что "изучить", как систематизировать, а на самом деле - прогнать через алгоритмы. Поэтому , в начале выглядит как схожее поведение, но если разобраться в нюансах - поулчаем разные реализации

[owlest]

Так и человеки не всегда решают логические задачки правильно. А если честно - то вообще мало когда. И логические и математические. Есть известные задачки при поступлении на работу, ну известные типа когда кувшинки заполнят половину пруда или про стоимость теннисной ракетки и мяча.
   Мышление человеков насквозь пронизано когнитивными искажениями.

Вот как раз про логические задачки интересно. Если ИИ не обучен ответам или не знает их, у него будет только один ответ: "Я затрудняюсь ответить" или "В моей базе нет данных". Если эту задачу предложить человеку, то он начнет мыслить, придумывать что-то свое, даже если не знает ответа. Самые неразумные ответят как ИИ, остальные, более хитропопые, начнут вилять с ответом, выпытывая истину. И да, всегда интересно читать и сравнивать ответы на такие каверзные вопросы ИИ и человека. По мне, так человек пока впереди

[bitbit97]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

[Etranger]

Вот как раз про логические задачки интересно. Если ИИ не обучен ответам или не знает их, у него будет только один ответ: "Я затрудняюсь ответить" или "В моей базе нет данных". Если эту задачу предложить человеку, то он начнет мыслить, придумывать что-то свое, даже если не знает ответа. Самые неразумные ответят как ИИ, остальные, более хитропопые, начнут вилять с ответом, выпытывая истину. И да, всегда интересно читать и сравнивать ответы на такие каверзные вопросы ИИ и человека. По мне, так человек пока впереди

Я думаю, что человек впереди в этом вопросе (хотя далеко не каждый, понятное дело, но мы тут обобщим для удобства сравнения) по той причине, что человек может и не всегда знает, но догадывается, что не на все вопросы существует какой-то единственно правильный ответ. И что иногда определенные вопросы задают не столько ради конкретного ответа, сколько ради того, чтобы понять, как конкретный человек будет этот ответ выстраивать. То есть интересует не "что", а "как", именно способ, путь размышлений.

[owlest]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

Общаясь с тем же ChatGPT, был приобретен некий опыт: если эта машина не знает ответа, она в основном так и пишет - "В моей базе данных нет информации". Другой вариант — она начинает врать, но делает это настолько наглядно, что даже не разбираясь в теме, можно обнаружить обман. Я не видел от ИИ многоходовок, не настолько она хитра, как человек.

Я думаю, что человек впереди в этом вопросе (хотя далеко не каждый, понятное дело, но мы тут обобщим для удобства сравнения) по той причине, что человек может и не всегда знает, но догадывается, что не на все вопросы существует какой-то единственно правильный ответ. И что иногда определенные вопросы задают не столько ради конкретного ответа, сколько ради того, чтобы понять, как конкретный человек будет этот ответ выстраивать. То есть интересует не "что", а "как", именно способ, путь размышлений.

Если именно говорить про тестирование, то там не так важны знания, как смекалка, часто, как вы и сказали, экзаменатору важнее знать, как человек мыслит, а не насколько у него обширные знания. Я уверен, что получить набор информации легче, чем начать мыслить.

[DrBeer]

А почему в данном случае ИИ не может перебрать миллионы вариантов и попытаться выстроить цепочку почему его ответ действительно правильный? ИИ ведь может не схитрить как человек, а путем составления многоходовок, попробовать перевести разговор в то поле где он будет прав или где у него будет больше фактов за счет обширной базы данных ответов? Сделать по аналогии со ЧТО? ГДЕ? КОГДА? - просто накидать множество разных вариантов и попробовать найти истину.

1. Потому что ему не дали миллионы вариантов. Т.н. ИИ - полностью зависим от информации созданной ЧЕЛОВЕКОМ
2. Потому что ИИ не имея модели обучения, просто не знает что есть правильный вариант или приближенный к правильному. Точнее он "не понимает" что является целью вопроса, что от него ждут.