Мы говорим про ИИ но стоит говорить уже о ОИИ (AGI)

[epidemia]

На самом деле AGI уже ближе, чем все думают.

OpenAI анонсировала новые языковые модели o3 и o3-mini, которые обещают перевернуть индустрию.

В тесте ARC-AGI модель достигла 87.5%. Это почти уровень AGI (Artificial General Intelligence). Для сравнения, результат в 85% считается человеческим уровнем.

[DrBeer]

На самом деле AGI уже ближе, чем все думают.

OpenAI анонсировала новые языковые модели o3 и o3-mini, которые обещают перевернуть индустрию.

В тесте ARC-AGI модель достигла 87.5%. Это почти уровень AGI (Artificial General Intelligence). Для сравнения, результат в 85% считается человеческим уровнем.

Есть такое мнение, но есть и нюансы

1. Тест ARC-AGI (Abstract and Reasoning Corpus for Artificial General Intelligence) - создан для оценки способности ИИ осваивать новые навыки, выходя за пределы обучающих данных.
2. Рекомендую также почитать диалог иностранного гражданина Шолле https://x.com/fchollet/status/1689706474996645888
3. "Создатели теста признают его несовершенства. По словам Кнупа, тест остаётся неизменным с момента создания, и его критика как инструмента для достижения AGI только увеличивается. Дополнительные споры вызывает сама концепция AGI: некоторые эксперты считают, что AGI уже достигнут, если интерпретировать его как способность ИИ превосходить людей в большинстве задач."

Итого: "пока что фраза "Страшно, очень страшно, мы не знаем что это такое, если бы мы знали, что это такое, но мы не знаем, что это такое" является лучшим описанием восприятия ИИ / ОИИ и около того. Да есть интересная технология, да она показывает удивительные результаты, но пока вторая "И" в аббревиатуре, скорее всего надо писать в кавычках

[heyod hewow]

Дополнительные споры вызывает сама концепция AGI: некоторые эксперты считают, что AGI уже достигнут, если интерпретировать его как способность ИИ превосходить людей в большинстве задач."

Вот-вот. Что такое "способность превосходить людей в большинстве задач"? К примеру, ВАЗ2101 превосходит людей в большинстве задач еще с 1970го года, он и быстрее, и мощнее, у него четыре ноги, и картошки может в багажнике увезти больше, чем простой дачник на двух ногах с рюкзаком. ))

Может AGI и научатся осваивать новые навыки, выходя за пределы обучающих данных, быстрее людей. Но смогут ли AGI создавать новое? Те же новые навыки? Пока не смогут - нельзя говорить о каком-то превосходстве, поскольку это все равно, что сравнивать электродвигатель и человека, ротор электродвигателя превосходит в скорости вращения человека, крутящего ручку. )) Но да, эти новые инструменты нужны и их появление востребовано и своевременно, так же, как и появление паровых и электродвигателей в свое время.

[fgh]

Дополнительные споры вызывает сама концепция AGI: некоторые эксперты считают, что AGI уже достигнут, если интерпретировать его как способность ИИ превосходить людей в большинстве задач."

Вот-вот. Что такое "способность превосходить людей в большинстве задач"? К примеру, ВАЗ2101 превосходит людей в большинстве задач еще с 1970го года, он и быстрее, и мощнее, у него четыре ноги, и картошки может в багажнике увезти больше, чем простой дачник на двух ногах с рюкзаком. ))

Может AGI и научатся осваивать новые навыки, выходя за пределы обучающих данных, быстрее людей. Но смогут ли AGI создавать новое? Те же новые навыки? Пока не смогут - нельзя говорить о каком-то превосходстве, поскольку это все равно, что сравнивать электродвигатель и человека, ротор электродвигателя превосходит в скорости вращения человека, крутящего ручку. )) Но да, эти новые инструменты нужны и их появление востребовано и своевременно, так же, как и появление паровых и электродвигателей в свое время.

Ну всё же что-то новое-таки научились генерить. К примеру, миджорни-картинки. Или музыку абстрактно-какофоническую. Пока картинки выше всяких похвал, всё остальное - так себе. А стихи от Яндекс-стихоплёта - это просто на поржать.
 Ну плюс ещё в судах работу судей могут облегчать выдавая что-то вроде "предварительных приговоров".
А настоящие изобретения или решать сложные инженерные задачи - вроде пока нет.
    И главное - они, слава богу, пока ещё не научились размножаться (без помощи человека) !!!

[heyod hewow]

Ну всё же что-то новое-таки научились генерить. К примеру, миджорни-картинки. Или музыку абстрактно-какофоническую. Пока картинки выше всяких похвал, всё остальное - так себе. А стихи от Яндекс-стихоплёта - это просто на поржать.

Это не новое. От слова совсем. Это алгоритмическое комбинирование по шаблону. И как раз твой пример с миджорни-картинками, музыко-какофонией и нейро-стихоплетством хорошо этот тезис иллюстрирует. Визуал комбинировать по шаблону проще всего. Стихи - сложнее всего, потому что они требуют самой развитой второсигнальной системы из всех представленных трех примеров, как для создателя, так и для получателя, так сказать. Другими словами, нарисовать котика и умилить простое мозгами большинство - куда проще, чем написать стихи и вызвать восторг у тонких ценителей.

А настоящие изобретения или решать сложные инженерные задачи - вроде пока нет.

Вот.

И главное - они, слава богу, пока ещё не научились размножаться (без помощи человека) !!!

Ага. А то как только они научатся делать это сами, необходимость в человеках отпадет. ))

[Smartprofit]

Дополнительные споры вызывает сама концепция AGI: некоторые эксперты считают, что AGI уже достигнут, если интерпретировать его как способность ИИ превосходить людей в большинстве задач."

Вот-вот. Что такое "способность превосходить людей в большинстве задач"? К примеру, ВАЗ2101 превосходит людей в большинстве задач еще с 1970го года, он и быстрее, и мощнее, у него четыре ноги, и картошки может в багажнике увезти больше, чем простой дачник на двух ногах с рюкзаком. ))

Может AGI и научатся осваивать новые навыки, выходя за пределы обучающих данных, быстрее людей. Но смогут ли AGI создавать новое? Те же новые навыки? Пока не смогут - нельзя говорить о каком-то превосходстве, поскольку это все равно, что сравнивать электродвигатель и человека, ротор электродвигателя превосходит в скорости вращения человека, крутящего ручку. )) Но да, эти новые инструменты нужны и их появление востребовано и своевременно, так же, как и появление паровых и электродвигателей в свое время.

Ну всё же что-то новое-таки научились генерить. К примеру, миджорни-картинки. Или музыку абстрактно-какофоническую. Пока картинки выше всяких похвал, всё остальное - так себе. А стихи от Яндекс-стихоплёта - это просто на поржать.
 Ну плюс ещё в судах работу судей могут облегчать выдавая что-то вроде "предварительных приговоров".
А настоящие изобретения или решать сложные инженерные задачи - вроде пока нет.
    И главное - они, слава богу, пока ещё не научились размножаться (без помощи человека) !!!

Альтшуллер, же придумал ТРИЗ (теорию решения изобретательских задач). Это был уникальный человек - учёный и писатель одновременно. Сочетал в себе лирика и физика, тогда это было модно, так говорить.
Это формальный метод, позволяющий как раз решать сложные задачи и делать изобретения.
Выясняется противоречие, разрешается противоречие... Я даже не знаю, почему нельзя обучить ИИ ТРИЗ и начать креативить. Вероятно это уже сейчас возможно. Надо попробовать.
А стихи ИИ тоже пишет - мне лично нравится.

[fgh]

Это не новое. От слова совсем. Это алгоритмическое комбинирование по шаблону. И как раз твой пример с миджорни-картинками, музыко-какофонией и нейро-стихоплетством хорошо этот тезис иллюстрирует. Визуал комбинировать по шаблону проще всего.

Ну так-то и большая часть человеческого творчества — это алгоритмическое комбинирование. Хотя что касается картинок, я даже не в курсе, как у них получается так часто неконфликтно на одном полотне гармонизировать разных персонажей и даже разные части фона. Респект разрабам.

Альтшуллер, же придумал ТРИЗ (теорию решения изобретательских задач). Это был уникальный человек - учёный и писатель одновременно. Сочетал в себе лирика и физика, тогда это было модно, так говорить.
Это формальный метод, позволяющий как раз решать сложные задачи и делать изобретения.
Выясняется противоречие, разрешается противоречие... Я даже не знаю, почему нельзя обучить ИИ ТРИЗ и начать креативить. Вероятно это уже сейчас возможно. Надо попробовать.
А стихи ИИ тоже пишет - мне лично нравится.

Читал в своё время много книжек по ТРИЗ. Самого Альтшуллера в первую очередь. Да, там есть базовый алгоритм, но реальное следование ему на практике практически никогда не получится сделать механическим. Это скорее система подсказок и советов. Кстати, сам Альшуллер, который был гениален без всякого сомнения, при жизни сделал мало таких изобретений, которые принято называть «резонансными». Ну типа лампочки Эдисона или чего-то такого значимого. По его собственной шкале значимости изобретений его максимально значимые изобретения были довольно скромными. Ну придумал он что-то вроде шняги для акваланга или что-то в этом духе.
    Кроме того, после его смерти развитие ТРИЗ выхолостилось. Фактически остановилось.

[heyod hewow]

Ну так-то и большая часть человеческого творчества — это алгоритмическое комбинирование.

Это так, но есть нюансы. У человеков бОльшая часть "творцов" это именно творцы по шаблону, назовем их ремесленники. И меньшая часть - гении, создающие новые "шаблоны", новое искусство (раз уж мы говорим об искусстве, но в той же науке - все точно так же). Да, бывает тонкая и размытая грань между очень хорошим ремесленником и херовым (ударение ставьте по своему вкусу) гением, но сейчас, в рамках текущего треда, это не суть, это все в рамках нормального распределения.

Раз в сто (условно) лет, гении создают новое искусство, новые науки, открывают новые горизонты.
А ИИ... хотя да, подождите, ИИ же еще очень молод, дайте ему еще сто дней лет, может и он смогет так же или круче. ))

[Smartprofit]

Это не новое. От слова совсем. Это алгоритмическое комбинирование по шаблону. И как раз твой пример с миджорни-картинками, музыко-какофонией и нейро-стихоплетством хорошо этот тезис иллюстрирует. Визуал комбинировать по шаблону проще всего.

Ну так-то и большая часть человеческого творчества — это алгоритмическое комбинирование. Хотя что касается картинок, я даже не в курсе, как у них получается так часто неконфликтно на одном полотне гармонизировать разных персонажей и даже разные части фона. Респект разрабам.

Альтшуллер, же придумал ТРИЗ (теорию решения изобретательских задач). Это был уникальный человек - учёный и писатель одновременно. Сочетал в себе лирика и физика, тогда это было модно, так говорить.
Это формальный метод, позволяющий как раз решать сложные задачи и делать изобретения.
Выясняется противоречие, разрешается противоречие... Я даже не знаю, почему нельзя обучить ИИ ТРИЗ и начать креативить. Вероятно это уже сейчас возможно. Надо попробовать.
А стихи ИИ тоже пишет - мне лично нравится.

Читал в своё время много книжек по ТРИЗ. Самого Альтшуллера в первую очередь. Да, там есть базовый алгоритм, но реальное следование ему на практике практически никогда не получится сделать механическим. Это скорее система подсказок и советов. Кстати, сам Альшуллер, который был гениален без всякого сомнения, при жизни сделал мало таких изобретений, которые принято называть «резонансными». Ну типа лампочки Эдисона или чего-то такого значимого. По его собственной шкале значимости изобретений его максимально значимые изобретения были довольно скромными. Ну придумал он что-то вроде шняги для акваланга или что-то в этом духе.
    Кроме того, после его смерти развитие ТРИЗ выхолостилось. Фактически остановилось.

В ТРИЗ основная проблема состоит в том, что большинство изобретений, который получаются с помощью этого метода являются невозможными. То есть, они не применимы на практике. По разным причинам - например, система работает, но экономически абсолютно не выгодна.
При этом, ИИ может в отличие от человека использовать огромное количество таких формальных методов и производить перебор вариантов с огромной скоростью.
Другое дело, что ИИ очень плохо представляет себе что такое реальность. Но если его подключить к этой реальности с помощью датчиков и видеокамер, то он вполне может ставить реальные эксперименты.

[fgh]

В ТРИЗ основная проблема состоит в том, что большинство изобретений, который получаются с помощью этого метода являются невозможными. То есть, они не применимы на практике. По разным причинам - например, система работает, но экономически абсолютно не выгодна.
При этом, ИИ может в отличие от человека использовать огромное количество таких формальных методов и производить перебор вариантов с огромной скоростью.
Другое дело, что ИИ очень плохо представляет себе что такое реальность. Но если его подключить к этой реальности с помощью датчиков и видеокамер, то он вполне может ставить реальные эксперименты.

В изобретениях основная проблема, как по мне, это то, что просто изобрести - недостаточно. Надо ещё это коммерциализировать. На что у большинства людей нет:
1. Таланта или способностей; Нет опыта маркетинговой раскрутки.
2. Банально нет капитала. И неизвестно гле его взять.
  Взять того же Альтшуллера. Несмотря на всю гениальность его теории, сам он не изобрёл ничего значимого. А из того, что изобрёл - мало что коммерциализировалось. Причины те же самые. СССР была не лучшей средой для изобретателей. Гениальные изобретатели там не могли коммерциализировать свои разработки и были вынуждены продавать свои изобретения на Запад в лучшем случае. В худшем - они просто клались в архив, забывались и становились неактуальными.

[heyod hewow]

СССР была не лучшей средой для изобретателей. Гениальные изобретатели там не могли коммерциализировать свои разработки и были вынуждены продавать свои изобретения на Запад в лучшем случае. В худшем - они просто клались в архив, забывались и становились неактуальными.

По поводу "были вынуждены продавать свои изобретения на Запад" - это уже после развала совка. При самом совке такое вряд ли было возможно технически, а за попытки можно было схлопотать лет 25 лагерей или вообще высшую меру. А вообще совку было много проще воровать готовые изобретения/изделия и банально копировать их, чем доводить до ума изобретения местных гениев. Потому что есть довольно длительный и часто очень дорогой цикл - от идеи, патента и чертежа до работающего прототипа и дальнейшей серии. Обычно на такое в совке деньги не тратились, просто воровалось на "загнивающем Западе" и худо-бедно копировалось на местной элементной/производственной базе. Копия получалась в разы хуже оригинала, но для внутреннего рынка было норм, разницу все равно никто (кроме чинов парт.аппарата) прочувствовать не мог. ))
К тому же местные кулибины были вырваны из мировой информационной изобретательско-научной среды и зачастую изобретали "колесо", которое на Западе давным-давно было в любой лавке на прилавке, так что и продавать-то на Запад особо было нечего даже в теории, поскольку там это их "изобретение" было в ходу уже десятилетиями. 

[DrBeer]

Дополнительные споры вызывает сама концепция AGI: некоторые эксперты считают, что AGI уже достигнут, если интерпретировать его как способность ИИ превосходить людей в большинстве задач."

Вот-вот. Что такое "способность превосходить людей в большинстве задач"? К примеру, ВАЗ2101 превосходит людей в большинстве задач еще с 1970го года, он и быстрее, и мощнее, у него четыре ноги, и картошки может в багажнике увезти больше, чем простой дачник на двух ногах с рюкзаком. ))

Может AGI и научатся осваивать новые навыки, выходя за пределы обучающих данных, быстрее людей. Но смогут ли AGI создавать новое? Те же новые навыки? Пока не смогут - нельзя говорить о каком-то превосходстве, поскольку это все равно, что сравнивать электродвигатель и человека, ротор электродвигателя превосходит в скорости вращения человека, крутящего ручку. )) Но да, эти новые инструменты нужны и их появление востребовано и своевременно, так же, как и появление паровых и электродвигателей в свое время.

В том то и суть - сегодняшний, так называемый , ИИ - всего лишь ускорение человеческой работы и более широкий охват информации, т.е. более быстроее и вероятно качественное выполнение ЗАДАЧ. Но не постановку задач, или построение принципиально новых моделей, как например человек из говна и палок алгоритмов  и процессорных кодов сделал тот самый ИИ. Может ИИ сейчас САМ, без команд, самостоятельно изучив предметную область выявить проблемы и разработать нечто новое для решения этих проблем ? Нет...

[fgh]

СССР была не лучшей средой для изобретателей. Гениальные изобретатели там не могли коммерциализировать свои разработки и были вынуждены продавать свои изобретения на Запад в лучшем случае. В худшем - они просто клались в архив, забывались и становились неактуальными.

По поводу "были вынуждены продавать свои изобретения на Запад" - это уже после развала совка. При самом совке такое вряд ли было возможно технически, а за попытки можно было схлопотать лет 25 лагерей или вообще высшую меру. А вообще совку было много проще воровать готовые изобретения/изделия и банально копировать их, чем доводить до ума изобретения местных гениев. Потому что есть довольно длительный и часто очень дорогой цикл - от идеи, патента и чертежа до работающего прототипа и дальнейшей серии. Обычно на такое в совке деньги не тратились, просто воровалось на "загнивающем Западе" и худо-бедно копировалось на местной элементной/производственной базе. Копия получалась в разы хуже оригинала, но для внутреннего рынка было норм, разницу все равно никто (кроме чинов парт.аппарата) прочувствовать не мог. ))
К тому же местные кулибины были вырваны из мировой информационной изобретательско-научной среды и зачастую изобретали "колесо", которое на Западе давным-давно было в любой лавке на прилавке, так что и продавать-то на Запад особо было нечего даже в теории, поскольку там это их "изобретение" было в ходу уже десятилетиями.

В позднем СССР вряд ли была такая сильная вырванность из среды, поскольку уже было потепление отношений. И насчёт того, что советские изобретатели изобретали только "колёса" - как по мне, очень пристрастно-предвзятое мнение. Навскидку могу привести пример советского изобретателя грузинского происхождения Гулиа. Он изобретал много всего и довольно неплохое. Про одно из своих постоянно дорабатываемых ихобретений он в позднем СССР даже написал популярную книжку, которую многие читали "В поисках энергетической капсулы". В конечном счёте он пришёл к идее маховика, накапливающего энергию. Идея настолько гениальна в своей дерзкой безумности, что на Западе до такого точно никто не додумывался. После распада изобретатель продолжил доработку изобретения, но уже - да. в рамках совместного с западными учёными предприятия. Но идея сложная, до сих пор вроде только то ли в прототипах, то ли в экспериментальных образцах.
    СССР интересовали только военные разработки.

[DrBeer]

СССР была не лучшей средой для изобретателей. Гениальные изобретатели там не могли коммерциализировать свои разработки и были вынуждены продавать свои изобретения на Запад в лучшем случае. В худшем - они просто клались в архив, забывались и становились неактуальными.

В совке было несколько проблем, для возможности развития изобретателей:
1. технологическая отсталость. Да были "не имеющие аналогов"  ракеты и танки и прочее для военки или около того, но для массовки считалось  - и так отлично живут. Про бутовую технику и электронику можем поговорить
2. недоступность, или правильнее сказать недопускаемость к имеющимся образцам технологического оборудования, которое необходимо было для производтсва новых изобретений. Не знаю всели участники форума это помнят,  но в техже 80-начале 90 например даже воспользоваться копировальной техникой (и это не ксерокс а ротопринт, а другое доступно реально единицам), можно было... только получив специальное разрешение... Ибо "капиталистическую и антисоветскую пропаганду напечатают непременно". Сегодня это звучит как бред фантастический, но такова была реальность...
3.Техническая литература...  Ну чтото из 60-70 годов - пожалуйста, а свежее или не приведи господь - зарубежное, так это все засекреченно и пока тебе 1й отдел не даст добро, а затем комитет комсомола - ты доступа не получишь.  И изза недостатка информации, изобретения, в большинстве своем выглядели уныло на фоне западных изобретателей.
Из говна и палок, и синей изоленты ты компутер не сделаешь... И не сделали... В этом направлении например была просто попытка догнать, причем не изобретая свое и новое а реверсинжиниринг и тривиальное воровство материальной базы.
4. Если это не "укрепит оборону" или "не помогает выполнить 5 летний план партии за 4 года" - это не интерсно.

[fgh]

СССР была не лучшей средой для изобретателей. Гениальные изобретатели там не могли коммерциализировать свои разработки и были вынуждены продавать свои изобретения на Запад в лучшем случае. В худшем - они просто клались в архив, забывались и становились неактуальными.

В совке было несколько проблем, для возможности развития изобретателей:
1. технологическая отсталость. Да были "не имеющие аналогов"  ракеты и танки и прочее для военки или около того, но для массовки считалось  - и так отлично живут. Про бутовую технику и электронику можем поговорить
2. недоступность, или правильнее сказать недопускаемость к имеющимся образцам технологического оборудования, которое необходимо было для производтсва новых изобретений. Не знаю всели участники форума это помнят,  но в техже 80-начале 90 например даже воспользоваться копировальной техникой (и это не ксерокс а ротопринт, а другое доступно реально единицам), можно было... только получив специальное разрешение... Ибо "капиталистическую и антисоветскую пропаганду напечатают непременно". Сегодня это звучит как бред фантастический, но такова была реальность...
3.Техническая литература...  Ну чтото из 60-70 годов - пожалуйста, а свежее или не приведи господь - зарубежное, так это все засекреченно и пока тебе 1й отдел не даст добро, а затем комитет комсомола - ты доступа не получишь.  И изза недостатка информации, изобретения, в большинстве своем выглядели уныло на фоне западных изобретателей.
Из говна и палок, и синей изоленты ты компутер не сделаешь... И не сделали... В этом направлении например была просто попытка догнать, причем не изобретая свое и новое а реверсинжиниринг и тривиальное воровство материальной базы.
4. Если это не "укрепит оборону" или "не помогает выполнить 5 летний план партии за 4 года" - это не интерсно.

В целом согласен с большинством вышенаписанного. У изобретателей реально были проблемы даже элементарно сделать работающий прототип. Ну кто работал на заводах и или был связан знакомставми с токарями или сам на заводе что-то клепал, те да, могли что-т сделать. Но это металл или дерево. Пластик в целом был недоступен.
  Получалось, что да, из говна и палок.
Кстати, не только,  разумеется, у изобретателей были проблемы. Обычный обыватель не мог получить доступ к благам цивилизации. Ладно там бытовая техника буржуйская. Элементарно чтобы построить дом в пригороде  - это был квест 80 уровня. Один знакомый сказал, что ему в советское время выделяли землю и надо было построить дом. Он довольно скромный дом запланировал, так даже имея деньги, купить материал - проблема. Даже машину найти, чтобы доски привести. Тебя могли гаишники остановить и долгос спрашивать откуда ты, мил человек, такую большую ценность везёшь - кубометр досок? Уж не буржуем ли часом заделался?)