Искусственный интеллект

[owlest]

А давайте ради забавы сравним ИИ. Что у нас есть? ChatGPT, Grok, DeepSeek, Meta. Кто из них самый крутой? Мы читали тесты где люди моделировали ситуации и ИИ в конце всех уничтожал. А проводили ли тесты среди ИИ? Какой ИИ всех сожрет? С кем объединится?

Зачем ИИ уничтожать кожаных мешков? Они это сами прекрасно делают, ИИ просто стоит в сторонке и наблюдает, как все дела происходят без него. Хотя с другой стороны, а вдруг это он пишет сценарии, а мы их исполняем? Тогда уже ему не нужно беспокоиться о своем будущем, может он уже залез в голову людям, раз они стали себя так вести? А для безопасности, рекомендуют общаться с ИИ вежливо, а вдруг в будущем пригодиться и он возьмет нас в рабы, а не просто уничтожит

[DrBeer]

Так, все, расходимся, "ИИ"-шечная цивилизация кожаным не грозит

Оригинальная статья: https://www.unian.net/science/ii-v-rabote-uchenye-proveli-smelyy-eksperiment-12994398.html

Поскольку не у всех может открыться, по определенным причинам, слегка копипастну из статьи:

"Отмечается, что ученые из Университета Карнеги-Меллона создали фальшивую компанию TheAgentCompany, которая занимается разработкой программного обеспечения. Все ее сотрудники - модели ИИ, предназначенные для самостоятельного выполнения задач. Результаты этого эксперимента оказались довольно хаотичными.

Компанию TheAgentCompany укомплектовали искусственными работниками из Google, OpenAI, Anthropic и Meta. Они выполняли роли финансовых аналитиков, инженеров-программистов и менеджеров проектов, работая вместе с симулированными коллегами, такими как фальшивый отдел кадров и главный технический директор.

Ученые поставили перед "сотрудниками" TheAgentCompany задачи, основанные на повседневной работе реальной компании в сфере информационных технологий. Модели ИИ перемещались по каталогам файлов, виртуально осматривали новые офисные помещения и писали отзывы о работе инженеров-программистов на основе собранной обратной связи.

В издании поделились, что лучше всего себя показала модель Claude 3.5 Sonnet от Anthropic. Тем не менее она справилась лишь с 24% порученных ей заданий. Для выполнения одной задачи модели приходилось совершать около 30 шагов.

Модель Gemini 2.0 Flash от Google в среднем совершала 40 шагов на одно выполненное задание. Только 11,4% из них были выполнены успешно.

Худшим ИИ-работником оказалась модель Nova Pro v1 от Amazon. Она совершала в среднем по 20 шагов на выполнение одной задачи, но показатели успеха их выполнения составили всего 1,7%."

ПС Не реклама - Claude от Anthropic давно на него перешёл с ЧатЖПТ, и очень прям счастлив !

[bitbit97]

Что-то какой-то странный тест провели, как будто не из области применения ИИ. С таким же успехом можно ИИ поставить задачу определить что сломано в машине, получая информацию со слов владельца авто. Думаю ни один ИИ не определит верно проблему, если ее опишут как «ну там это самое, когда стоит на хх, то слышно тыц-тыц-тыц, а когда под нагрузкой то уууууу, ш-ш-ш-ш-ш»

А вы пользуетесь ИИ для решения повседневных задач на работе? До этого не задумывался, а могу ли я ИИ скормить таблицу в экселе и текстом озвучить задачу?

[DrBeer]

Что-то какой-то странный тест провели, как будто не из области применения ИИ. С таким же успехом можно ИИ поставить задачу определить что сломано в машине, получая информацию со слов владельца авто. Думаю ни один ИИ не определит верно проблему, если ее опишут как «ну там это самое, когда стоит на хх, то слышно тыц-тыц-тыц, а когда под нагрузкой то уууууу, ш-ш-ш-ш-ш»

А вы пользуетесь ИИ для решения повседневных задач на работе? До этого не задумывался, а могу ли я ИИ скормить таблицу в экселе и текстом озвучить задачу?

По моему мнению, это была попытка смоделировать идею "ИИ заменит большинство людей". получилось как получилось

"А вы пользуетесь ИИ для решения повседневных задач на работе? До этого не задумывался, а могу ли я ИИ скормить таблицу в экселе и текстом озвучить задачу?" - да, причем достаточно активно. Направление - ИТ, в разработке и управлении инфраструктурой. Где реально  помогает:
- написание шаблонов новых страниц проекта, на основании ранее сделанных наработок. Сидеть и писать сотни строк кода - та еще "радость", и он меня лишил этой "радости"
- частично используется при написании кода, там где надо получить быстрый ответ без перекапывания кучи мануалов. Это конечно не очень хорошо, но потом я все равно  "добиваю" эти места, заполняя их знаниями.
- частично использую для обсуждения той или иной идеи/концепции. Модель размышлений плюс запас знаний у Claude очень хорош, и его реально приятно "слушать". Причем он очень качественно аргументированы и подтверждаются практическими решениями.

Да, иногда бывают косяки К этому надо быть готовым, и там где решение критическое  - точно надо перепроверять. Причем хороший ход есть - "взять на понт" Например сказать "Код выглядит прекрасно, но я нашел в нем ошибки и не доработки, проанализируй код еще раз, и внеси изменения"... Ведется когда реально есть косяки 

Относительно "скормить эксель" - в Claude  (сейчас у меня сонет 3.7 ) очень удобно реализована работа с файлами: для начала для каждого проекта можно (я бы сказал НУЖНО) ,создать базовое описание, где помимо описательной части могут быть файлы. Есть интеграция ч гугл диск, Гитхаб, просто вложить фал(ы), или даже скриншот.  В рамках проекта, уже делать отдельные задачи, т.к. дробление позволяет выдавать более качественные решения, чем например в 1 задаче весь проект. Соответственно делаете проект, например "анализ экономической эффективности" и в задачах уже уточняете какую часть обрабатываете, какие данные на входе, и что интересует на выходе. Как работает бесплатная версия не скажу, работаю с платной подпиской

[bitbit97]

Как Вы считаете, если я скормлю ИИ годовой баланс и отчет, он мне сможет жать расклад насколько эффективно работает компания? И если я ему укажу несколько критерий, то сможет ИИ спрогнозировать финансовую привлекательность и состояние закрывать обязательства дебиторов/кредиторов (тут явно нужен выход в сеть)? Иными словами взглянув на цифры, ИИ сможет ответить, стоит связываться с компанией или нет?

Пока писал, назрел другой пример - если я скормлю ИИ белую бумагу, он выявит плагиат/скам?

[DrBeer]

Как Вы считаете, если я скормлю ИИ годовой баланс и отчет, он мне сможет жать расклад насколько эффективно работает компания? И если я ему укажу несколько критерий, то сможет ИИ спрогнозировать финансовую привлекательность и состояние закрывать обязательства дебиторов/кредиторов (тут явно нужен выход в сеть)? Иными словами взглянув на цифры, ИИ сможет ответить, стоит связываться с компанией или нет?

Пока писал, назрел другой пример - если я скормлю ИИ белую бумагу, он выявит плагиат/скам?

Я не могу сказать что будет, так как не использовал для таких экспериментов. У вас есть прекрасный шанс провести эксперимент и убедиться в предположениях.
Одно скажу - там где есть риски влияния на реальную жизнь, он будет предупреждать - "система может ошибаться, просьба не принимать близко к сердцу" 

Про плагиат - вот мой вопрос ему и его ответ :


<sup>Привет ! Вопрос - если я тебе загружу документ, например Белую Бумагу криптопроекта, ты сможешь вывить плагиат или идентифицировать проект как скам ?

Привет! Да, я могу помочь с анализом документов криптопроектов, включая проверку на плагиат и выявление потенциальных признаков скама.

Для эффективного анализа White Paper (Белой Бумаги) криптопроекта я могу:

Проверить оригинальность текста и выявить заимствования из других источников
Проанализировать техническую составляющую проекта на предмет реалистичности
Оценить команду проекта и их опыт
Исследовать экономическую модель и токеномику
Сравнить с известными моделями скам-проектов
Подобный анализ поможет выявить характерные признаки недобросовестных проектов, такие как:

Плагиат в технической документации
Нереалистичные обещания доходности
Отсутствие четкой дорожной карты
Анонимная или неопытная команда
Проблемы в токеномике (например, большая концентрация токенов у основателей)
Пожалуйста, загрузите White Paper, который вы хотите проанализировать, и я проведу комплексную оценку.</sup>

[owlest]

Так, все, расходимся, "ИИ"-шечная цивилизация кожаным не грозит

Оригинальная статья: https://www.unian.net/science/ii-v-rabote-uchenye-proveli-smelyy-eksperiment-12994398.html

Поскольку не у всех может открыться, по определенным причинам, слегка копипастну из статьи:

"Отмечается, что ученые из Университета Карнеги-Меллона создали фальшивую компанию TheAgentCompany, которая занимается разработкой программного обеспечения. Все ее сотрудники - модели ИИ, предназначенные для самостоятельного выполнения задач. Результаты этого эксперимента оказались довольно хаотичными.

Компанию TheAgentCompany укомплектовали искусственными работниками из Google, OpenAI, Anthropic и Meta. Они выполняли роли финансовых аналитиков, инженеров-программистов и менеджеров проектов, работая вместе с симулированными коллегами, такими как фальшивый отдел кадров и главный технический директор.

Ученые поставили перед "сотрудниками" TheAgentCompany задачи, основанные на повседневной работе реальной компании в сфере информационных технологий. Модели ИИ перемещались по каталогам файлов, виртуально осматривали новые офисные помещения и писали отзывы о работе инженеров-программистов на основе собранной обратной связи.

В издании поделились, что лучше всего себя показала модель Claude 3.5 Sonnet от Anthropic. Тем не менее она справилась лишь с 24% порученных ей заданий. Для выполнения одной задачи модели приходилось совершать около 30 шагов.

Модель Gemini 2.0 Flash от Google в среднем совершала 40 шагов на одно выполненное задание. Только 11,4% из них были выполнены успешно.

Худшим ИИ-работником оказалась модель Nova Pro v1 от Amazon. Она совершала в среднем по 20 шагов на выполнение одной задачи, но показатели успеха их выполнения составили всего 1,7%."

ПС Не реклама - Claude от Anthropic давно на него перешёл с ЧатЖПТ, и очень прям счастлив !

Ну-ну, не нужно так, а если это просто нас ИИ так успокаивает, мол, не бойтесь парни, вам ничего не грозит. Насколько вероятно, что это уже ИИ догадался, что человечество на пороге борьбы с ним и теперь пудрит нам мозги?

Как Вы считаете, если я скормлю ИИ годовой баланс и отчет, он мне сможет жать расклад насколько эффективно работает компания? И если я ему укажу несколько критерий, то сможет ИИ спрогнозировать финансовую привлекательность и состояние закрывать обязательства дебиторов/кредиторов (тут явно нужен выход в сеть)? Иными словами взглянув на цифры, ИИ сможет ответить, стоит связываться с компанией или нет?

Пока писал, назрел другой пример - если я скормлю ИИ белую бумагу, он выявит плагиат/скам?

Цифры - это одно, по ним можно провести анализ, они не меняются, а вот текст, особенно плагиат, тут все сложнее. На рынке сейчас сотни тысяч проектов, у которых есть белая бумага, по-любому будет какой-то процент плагиата, особенно если сфера деятельности одна и та же. Ну просто нельзя одно и то же действие, повторяющееся в документах много раз, описать разными словам, чтобы не повторится. Насчет выявления скама - тут тоже свои нюансы, тут нужно знать, на чем обучали ИИ, чтобы он выявлял скам.

[bitbit97]

Про плагиат - вот мой вопрос ему и его ответ :
~

После такого ответа, можно взять часть сотрудников CertiK audit, и уволить А так же часть тех кто проводит какой-либо анализ проекта перед листингом. Только вот как обычно, окажется что все что ИИ нароет, является рекомендательным, и это не стоит принимать за единый верный ответ.

Можно кстати обсудить судебное делопроизводство и ИИ. Если ему скормить данные, он среди 5 подозреваемых найдет преступника? И не знаете, как суд относится к ИИ, полученные результаты имеют какой-либо «вес» или результат ИИ не прокатывает для суда? Например если комп или человек проведет экспертизу почерка и тоже самое сделает ИИ, можно ли результат ИИ использовать для обвинения или парирования его?

[DrBeer]

Про плагиат - вот мой вопрос ему и его ответ :
~

После такого ответа, можно взять часть сотрудников CertiK audit, и уволить А так же часть тех кто проводит какой-либо анализ проекта перед листингом. Только вот как обычно, окажется что все что ИИ нароет, является рекомендательным, и это не стоит принимать за единый верный ответ.

Можно кстати обсудить судебное делопроизводство и ИИ. Если ему скормить данные, он среди 5 подозреваемых найдет преступника? И не знаете, как суд относится к ИИ, полученные результаты имеют какой-либо «вес» или результат ИИ не прокатывает для суда? Например если комп или человек проведет экспертизу почерка и тоже самое сделает ИИ, можно ли результат ИИ использовать для обвинения или парирования его?

Если они не могут сделать лучше, или не используют ИИ чтобы давать более эффективные ответы - то да, надо увольнять, но нанять тех кто умеет использовать ИИ для таких задач И это не шутка !
Относительно судебного производства, недавно читал что какой то крендель использовал ИИ в качестве своего помощника по юриспруденции и самостоятельно выиграл суд... Тут правда проще - связи в судебной системе решают больше чем законы и здравый смысл, но.. уже прецедент !   

[owlest]

Относительно судебного производства, недавно читал что какой то крендель использовал ИИ в качестве своего помощника по юриспруденции и самостоятельно выиграл суд... Тут правда проще - связи в судебной системе решают больше чем законы и здравый смысл, но.. уже прецедент !

Здесь конечно парадокс, видимо процесс проходит в стране, более чистой от коррупции и сторонних связей, так как можно было выиграть процесс по подсказкам ИИ. Во многих других странах, простой человек даже с помощью ИИ не сможет выиграть суд, если за другой стороной будут стоять связи. Ну, а в большинстве стран вообще не принимают доводы от ИИ (если станет известно, что это ИИ советовал ответчику)

[DrBeer]

Относительно судебного производства, недавно читал что какой то крендель использовал ИИ в качестве своего помощника по юриспруденции и самостоятельно выиграл суд... Тут правда проще - связи в судебной системе решают больше чем законы и здравый смысл, но.. уже прецедент !

Здесь конечно парадокс, видимо процесс проходит в стране, более чистой от коррупции и сторонних связей, так как можно было выиграть процесс по подсказкам ИИ. Во многих других странах, простой человек даже с помощью ИИ не сможет выиграть суд, если за другой стороной будут стоять связи. Ну, а в большинстве стран вообще не принимают доводы от ИИ (если станет известно, что это ИИ советовал ответчику)

Само собой, ибо там где коррупция, судебная система - это просто название ручного механизма принятия нужных решений, под крышей государства. Но если вернуться к самому делу, то ИИ здесь проявляет себя именно как очень качественный помощник, с огромной и разноплановой базой знаний. На самом деле судебные разбирательства, если не говорит о сильно запутанных , сложных и неоднозначных, требуют просто знания законодательной базы, чем человеки обыкновенные не обладают, как правило от слова совсем. Им это компенсируют, за деньги, адвокаты и юристы. Вот их, для подобных дел может заменить ИИ, т.к. у него вся актуальная законодательная база, логичное мышление и умение строить , в рамках модели данных, причиноследственные связи. Чего вполне достаточно, при отсутствии коррупции, доказать свою правоту если это так есть на самом деле.

[fgh]

Относительно судебного производства, недавно читал что какой то крендель использовал ИИ в качестве своего помощника по юриспруденции и самостоятельно выиграл суд... Тут правда проще - связи в судебной системе решают больше чем законы и здравый смысл, но.. уже прецедент !

Здесь конечно парадокс, видимо процесс проходит в стране, более чистой от коррупции и сторонних связей, так как можно было выиграть процесс по подсказкам ИИ. Во многих других странах, простой человек даже с помощью ИИ не сможет выиграть суд, если за другой стороной будут стоять связи. Ну, а в большинстве стран вообще не принимают доводы от ИИ (если станет известно, что это ИИ советовал ответчику)

Само собой, ибо там где коррупция, судебная система - это просто название ручного механизма принятия нужных решений, под крышей государства. Но если вернуться к самому делу, то ИИ здесь проявляет себя именно как очень качественный помощник, с огромной и разноплановой базой знаний. На самом деле судебные разбирательства, если не говорит о сильно запутанных , сложных и неоднозначных, требуют просто знания законодательной базы, чем человеки обыкновенные не обладают, как правило от слова совсем. Им это компенсируют, за деньги, адвокаты и юристы. Вот их, для подобных дел может заменить ИИ, т.к. у него вся актуальная законодательная база, логичное мышление и умение строить , в рамках модели данных, причиноследственные связи. Чего вполне достаточно, при отсутствии коррупции, доказать свою правоту если это так есть на самом деле.

Да, учитывая какой уровень избыточного количества законов существует почти в любой стране, а в РФ уж точно. Мне рассказывали, что чиновники всех уровней присылают запросы в "Консультант плюс" экспертам по поводу трактовки законов и на предмет, что у же устарело и что уже конфликтует с новым юридическим новоделом.
  Тут ИИ был бы незаменим и неутомим.
Ещё приольный случай был в кадровой сфере. Как-то один работодатель решил заменить своих хантеров на видеособесах. Проанализировали на основании каких данных принимают решения реальные люди. Выяснилось, что большой удельный вес имеет Опрятный внешний вид. Остальное второстепенно 

[owlest]

Само собой, ибо там где коррупция, судебная система - это просто название ручного механизма принятия нужных решений, под крышей государства. Но если вернуться к самому делу, то ИИ здесь проявляет себя именно как очень качественный помощник, с огромной и разноплановой базой знаний. На самом деле судебные разбирательства, если не говорит о сильно запутанных , сложных и неоднозначных, требуют просто знания законодательной базы, чем человеки обыкновенные не обладают, как правило от слова совсем. Им это компенсируют, за деньги, адвокаты и юристы. Вот их, для подобных дел может заменить ИИ, т.к. у него вся актуальная законодательная база, логичное мышление и умение строить , в рамках модели данных, причиноследственные связи. Чего вполне достаточно, при отсутствии коррупции, доказать свою правоту если это так есть на самом деле.

Как бы да, но есть существенный нюанс. Во-первых, если не станут нужны адвокаты и юристы, то они могут потребовать запретить использование ИИ в юриспруденции, как сейчас делают заказчики текстов, которым нужны статьи, написанные человеком (хотя в чем разница - я не понимаю, но это уже другая тема). Во-вторых, не всегда ИИ будет успевать фиксировать изменения в законодательстве, которых у нас сейчас предостаточно, поэтому выстроив доказательную базу, рассчитав возможный выигрыш дела, в суде все это может провалиться.

[bitbit97]

Относительно судебного производства, недавно читал что какой то крендель использовал ИИ в качестве своего помощника по юриспруденции и самостоятельно выиграл суд... Тут правда проще - связи в судебной системе решают больше чем законы и здравый смысл, но.. уже прецедент !

Здесь конечно парадокс, видимо процесс проходит в стране, более чистой от коррупции и сторонних связей, так как можно было выиграть процесс по подсказкам ИИ. Во многих других странах, простой человек даже с помощью ИИ не сможет выиграть суд, если за другой стороной будут стоять связи. Ну, а в большинстве стран вообще не принимают доводы от ИИ (если станет известно, что это ИИ советовал ответчику)

Но мы ведь не знаем какой именно суд он выиграл? Может ему штраф за неоплаченную парковку выписали, не уведомили вовремя и передали дело коллекторам. А ИИ лишь систематизировал инфу время приезда на парковку, расстояние до автомата регистрации авто, среднюю скорость передвижения человека

Просто я был в такой ситуации. Пока шел до автомата, за эти пару минут сотрудник платной парковки выписал штраф, кто-то его из-за дворника взял и выкинул (или он вообще не оставил там). Я получил штраф 27 евро + около 70 «работа» коллекторской службы. И фотка где я типа 12:00 заехал на парковку и в 12:01 дата штрафа. Я этот бред оспаривал дважды в центре защиты прав потребителя (пример моей страны, в других странах такие штрафы решаются в суде), тк в первый раз получил стандартную отписку. Если бы ИИ решил вопрос в пару кликов и составление задачи, я бы был ему только благодарен.

[DrBeer]

Само собой, ибо там где коррупция, судебная система - это просто название ручного механизма принятия нужных решений, под крышей государства. Но если вернуться к самому делу, то ИИ здесь проявляет себя именно как очень качественный помощник, с огромной и разноплановой базой знаний. На самом деле судебные разбирательства, если не говорит о сильно запутанных , сложных и неоднозначных, требуют просто знания законодательной базы, чем человеки обыкновенные не обладают, как правило от слова совсем. Им это компенсируют, за деньги, адвокаты и юристы. Вот их, для подобных дел может заменить ИИ, т.к. у него вся актуальная законодательная база, логичное мышление и умение строить , в рамках модели данных, причиноследственные связи. Чего вполне достаточно, при отсутствии коррупции, доказать свою правоту если это так есть на самом деле.

Как бы да, но есть существенный нюанс. Во-первых, если не станут нужны адвокаты и юристы, то они могут потребовать запретить использование ИИ в юриспруденции, как сейчас делают заказчики текстов, которым нужны статьи, написанные человеком (хотя в чем разница - я не понимаю, но это уже другая тема). Во-вторых, не всегда ИИ будет успевать фиксировать изменения в законодательстве, которых у нас сейчас предостаточно, поэтому выстроив доказательную базу, рассчитав возможный выигрыш дела, в суде все это может провалиться.

Итого: юристы и графоманы  - первые пойдут в расход, по мнению ИИ, как наиболее опасный слой
Относительно качества - достаточно решить проблему с  галлюцинациями ИИ, и качество будет мало отличимое от контента созданного людьми.
Ну и "не всегда ИИ будет успевать фиксировать изменения в законодательстве" - вот тут в корне не согласен - начиная от скорости обработки данных и заканчивая накопленными ЗАННИЯМИ, которых не будет ни у одного человека,  ИИ сможет намного быстрее дать ответ который приблизит к цели, и создаст, например обвинителю, сложную ситуацию. Плюс, скорость адаптивности при появлении новых "вводных", т.е. изменения ситуации, у ИИ будет намного выше.
Один нюанс - это все может и будет работать если "закон для всех един".