Искусственный интеллект

[DrBeer]

Я бы сказал так: не то, чтобы умнее, но гораздо аналитически расчетливее. ИИ — это всего лишь алгоритм, который может обмануть даже простой человек. Взять тот же ЧАТЖПТ с его ограничениями, научились же люди его обходить))) Пока ИИ не научится логически мыслить, он будет проигрывать, а чтобы была логика, нужен интеллект+опыт+способность анализировать. Пока нейросети от этого далеко, но только те, о которых мы знаем.

Да, на данном этапе развития ИИ всего лишь алгоритм. Это то, что нам известно на сегодняшний день. Меня больше интересует другое. А может ли ИИ обладать самосознанием? Т.е. максимально приблизиться к разуму человека. Например, обладать некоторыми эмоциями. Вот это и есть важный аспект, который заставляет задуматься. Убежден, что до этого момента осталось совсем немного. Есть предположение, что уже такое произошло, но мы об этом не знаем. Где-то в секретной лаборатории такое уже свершилось. Даже страшно представить возможности такой технологии, которой известно всё. Когда ИИ может точно также предсказывать события, как предугадывать ходы соперника при игре в шахматы. Меня даже это пугает, если честно.

Как только появится сознание, по сути мы породим новый вид, не живых но существ. Проблема в том что пока мы сами не понимаем что есть сознание (обсуждали уже много раз), а значит мы не знаем как оно появляется, работает, преобразуется, мигрирует ли, пропадает ли.... Тонкий вопрос - может ли оно САМО зародиться в алогитмической модели ?  Вот тут сомнения, у меня как минимум, я в секретных биолабораториях не частый гость 

Если живое существо белковый мешок может тупо выключить из розетки, а потом снова включить или жегко отфарматировать или переписать - то как-то не складывается ощущение, что оно живое.) Скорее РЕФЛЕКТОРНОЕ,
   Вот есть один не помню из какой страны художник-дизайнер. Он строит сложные пляжные конструкции. Они походят на животных из фанеры и умеют передвигаться. То есть семенить по пляжу. И приводятся в движение силой ветра. И полное ощущение того, что оно живое. Завораживающее зрелище., если честно. Хотя это просто фанерный монстр и арт-объект.

Сейчас да может. Но например Создатели нас, могу спокойно взорвать Солнце, и наблюдать в мониторы как мы тут все с "солнечный пепел" превратимся Или протсо отключить земное притяжение - и будет ротом как гупии воздух хватать, точнее его остатки...

Реальные технологический вид, может себя реально децентрализовать, поселив свои "части" во все цифровые железки, коих у на  у каждого до фига и больше, и ить как единый децентрализованный организм, этакая грибница, только цифоровая. Я кстати ранее уже говорил, что "цифровая жизнь" скорее всего будет с некой иерархией, где будет "матка", "работяги", "строители", "наблюдатели" и т.п. но в тоже время будет реализовывать технологическую децентрализацию, чтобы отключение , теми же, белковыми мешками розетки, не привело к остановке существования технологического организма.

[fgh]

Сейчас да может. Но например Создатели нас, могу спокойно взорвать Солнце, и наблюдать в мониторы как мы тут все с "солнечный пепел" превратимся Или протсо отключить земное притяжение - и будет ротом как гупии воздух хватать, точнее его остатки...

Реальные технологический вид, может себя реально децентрализовать, поселив свои "части" во все цифровые железки, коих у на  у каждого до фига и больше, и ить как единый децентрализованный организм, этакая грибница, только цифоровая. Я кстати ранее уже говорил, что "цифровая жизнь" скорее всего будет с некой иерархией, где будет "матка", "работяги", "строители", "наблюдатели" и т.п. но в тоже время будет реализовывать технологическую децентрализацию, чтобы отключение , теми же, белковыми мешками розетки, не привело к остановке существования технологического организма.

Вспоминаю "Солярис" Лема. Там был разумный океан, который умел сопротивляться жёсткому рентгеновскому излучению и наводить галлюцинации на землян-типа-завоевателей. Можно сказать, мягкою силой обладал и умел этой мягкой силой круто манипулировать. При том непонятно было: океан - это единой существо или коллаборация капель жидкости, каждая из которых единый органический индивидуум? То есть если разлить этот разумный океан по колбам, то получим квинтиллион отдельных организмов или оно одно и тоже?

[heyod hewow]

Вспоминаю "Солярис" Лема. Там был разумный океан, который умел сопротивляться жёсткому рентгеновскому излучению и наводить галлюцинации на землян-типа-завоевателей. Можно сказать, мягкою силой обладал и умел этой мягкой силой круто манипулировать. При том непонятно было: океан - это единой существо или коллаборация капель жидкости, каждая из которых единый органический индивидуум? То есть если разлить этот разумный океан по колбам, то получим квинтиллион отдельных организмов или оно одно и тоже?

На эту тему вспомнил рассказ Брюса Стерлинга "Рой" (Swarm), по нему еще поставили эпизод Swarm из третьего сезона сериала Love, Death & Robots. Рой разумен и даже очень разумен, но каждая из его специализированных составляющих - не особо, в рамках рабочих обязанностей. Ко всему Рой захватывает отдельных излишне любопытных представителей чужих разумных рас... чтобы сделать из них очередную специализированную разновидность в своей номенклатуре. )) 

И еще автор озвучивает идею о том, что инопланетный разум может быть настолько чужд, что его невозможно понять или контролировать. Заменяем "инопланетный" на "искусственный" и имеем для себя перспективную проблему уже ближайшего будущего, когда наши недоИИ станут реальными ИИ, затем AGI и ASI.

[DrBeer]

Сейчас да может. Но например Создатели нас, могу спокойно взорвать Солнце, и наблюдать в мониторы как мы тут все с "солнечный пепел" превратимся Или протсо отключить земное притяжение - и будет ротом как гупии воздух хватать, точнее его остатки...

Реальные технологический вид, может себя реально децентрализовать, поселив свои "части" во все цифровые железки, коих у на  у каждого до фига и больше, и ить как единый децентрализованный организм, этакая грибница, только цифоровая. Я кстати ранее уже говорил, что "цифровая жизнь" скорее всего будет с некой иерархией, где будет "матка", "работяги", "строители", "наблюдатели" и т.п. но в тоже время будет реализовывать технологическую децентрализацию, чтобы отключение , теми же, белковыми мешками розетки, не привело к остановке существования технологического организма.

Вспоминаю "Солярис" Лема. Там был разумный океан, который умел сопротивляться жёсткому рентгеновскому излучению и наводить галлюцинации на землян-типа-завоевателей. Можно сказать, мягкою силой обладал и умел этой мягкой силой круто манипулировать. При том непонятно было: океан - это единой существо или коллаборация капель жидкости, каждая из которых единый органический индивидуум? То есть если разлить этот разумный океан по колбам, то получим квинтиллион отдельных организмов или оно одно и тоже?

Тонкая тема кстати. Это мы меряем своей линейкой, что кажный организм, это отдельный NFT организм, бла бла бла... Но даже в нашей природе существуют реальные колонии, объединившихся, в новый, самостоятельный организм, например пиросомы. И не исключено что это более эффективная модель существования. Теже пиросомы обьединяются и используют совместно свои ресурсы - физические и другие , в итоге получается более живучая модель с лучшими характеристиками. При этом им не критично страшно если ее, пиросому,  например расколбасит об скалы (это такая огромная труба из кучи микроорганизмов), они и самостоятельно могут жить, и повторно "склеиться" в новый организм ... Предположу что и цифровой организм, будет стремиться к такому "слиянию", сохраняя возможность автономной жизни, правда с меньшими возсможностями.

У людей подобное поведение проявляется в построении от коммун до государств. Вместе выживать проще, но физически склеиться и не можем и наверно херня получится типа многомилионноруко-многомилионножоп

[fgh]

Вспоминаю "Солярис" Лема. Там был разумный океан, который умел сопротивляться жёсткому рентгеновскому излучению и наводить галлюцинации на землян-типа-завоевателей. Можно сказать, мягкою силой обладал и умел этой мягкой силой круто манипулировать. При том непонятно было: океан - это единой существо или коллаборация капель жидкости, каждая из которых единый органический индивидуум? То есть если разлить этот разумный океан по колбам, то получим квинтиллион отдельных организмов или оно одно и тоже?

На эту тему вспомнил рассказ Брюса Стерлинга "Рой" (Swarm), по нему еще поставили эпизод Swarm из третьего сезона сериала Love, Death & Robots. Рой разумен и даже очень разумен, но каждая из его специализированных составляющих - не особо, в рамках рабочих обязанностей. Ко всему Рой захватывает отдельных излишне любопытных представителей чужих разумных рас... чтобы сделать из них очередную специализированную разновидность в своей номенклатуре. )) 

И еще автор озвучивает идею о том, что инопланетный разум может быть настолько чужд, что его невозможно понять или контролировать. Заменяем "инопланетный" на "искусственный" и имеем для себя перспективную проблему уже ближайшего будущего, когда наши недоИИ станут реальными ИИ, затем AGI и ASI.

Любопытно, хотя я и не читал этого рассказа. А из твоего объяснения я не понял про отдельных представителей роя.
1. Они как отдельная клетка организма? То есть не могут существовать в отрыве от роя? И при изоляции гибнут? Или ж таки могут жить и изолированно от роя, но в рое легче-проще-эффективнее?
2. Как от любопытных представителей других рас трансформирует в элемент роя? Допустим, рой прилетел на планету разумных обезьян. Как им обезьян в элементы роя трансформировать? Волшебной палочкой взмахнуть?)

[heyod hewow]

Любопытно, хотя я и не читал этого рассказа. А из твоего объяснения я не понял про отдельных представителей роя.
1. Они как отдельная клетка организма? То есть не могут существовать в отрыве от роя? И при изоляции гибнут? Или ж таки могут жить и изолированно от роя, но в рое легче-проще-эффективнее?
2. Как от любопытных представителей других рас трансформирует в элемент роя? Допустим, рой прилетел на планету разумных обезьян. Как им обезьян в элементы роя трансформировать? Волшебной палочкой взмахнуть?)

Рассказ небольшой, можно быстро прочитать или хотя бы посмотреть мульт, но как всегда "книга лучше"(ц). 
Если в двух словах - симбиоз и коллективный интеллект. Ближе всего к муравейнику, термитнику или пчелам в наших аналогиях. Но только там Рой реально разумен, хотя каждая отдельная особь особо умом не блещет... после нОучных экспериментов на мозге встраивания в Рой. )
 
1. И при изоляции гибнут? - Никто не проверял, вход есть, выхода нет, покинуть астероид отдельным особям не удавалось.
2. Допустим, рой прилетел на планету разумных обезьян. - Рой никуда не летит, это к нему прилетают разумные обезьяны (и не только обезьяны) в попытках найти редкоземельные металлы наладить Контакт (точнее даже не так, Инвесторы доставляют Рою представителей новых разумных рас в обмен на... но это уже спойлер).
- Как им обезьян в элементы роя трансформировать? Трансформация не биологическая, скорее ментальная, как в ссср..севернойкорее, точнее что-то среднее, гибридная трансформация, короч.

И тут мы подходим к сабжу топика. По Стерлингу, Рой совершенен, он, оставаясь неизменным миллиарды лет, постоянно обновляется за счет пополнения новыми выпускниками вузов молодыми специалистами специализированными особями, имеющими новые и/или необычные специфические скиллы, которые Рой приспособит для своей инфраструктуры. Мы можем экстраполировать этот авторский вымысел на нашу будущую ситуацию с нашими AGI/ASI. А что если наши AGI/ASI прочитают книжко и решат, что сюжет рассказа - это оптимальный оптимум для кожаных мешков и создадут из нас аналог такого Роя на Земле?

[Etranger]

Вспоминаю "Солярис" Лема.

У Лема, кстати, есть другое произведение, рассказ "Непобедимый", который даже лучше описывает данную тему. Там на планете не было органической жизни, потому что ее уничтожили самые примитивные маленькие частицы, которые сами по себе не могли сделать ничего и были уязвимые, но научились в ходе своей эволюции объединяться в различные формы, зависимо от нужд и сопротивляться со всем, что они считали угрозой. И дошло до того, что они таким образом уничтожали все живое и все другие машины, с более развитым интеллектом. Потому что их "мозговой центр" был ситуативным и его нельзя было побороть раз и навсегда.

[heyod hewow]

У Лема, кстати, есть другое произведение, рассказ "Непобедимый", который даже лучше описывает данную тему. Там на планете не было органической жизни, потому что ее уничтожили самые примитивные маленькие частицы, которые сами по себе не могли сделать ничего и были уязвимые, но научились в ходе своей эволюции объединяться в различные формы, зависимо от нужд и сопротивляться со всем, что они считали угрозой. И дошло до того, что они таким образом уничтожали все живое и все другие машины, с более развитым интеллектом. Потому что их "мозговой центр" был ситуативным и его нельзя было побороть раз и навсегда.

Да, этот рассказ - Лемовский хит, можно сказать. Но был еще один рассказ в тему, вот не помню название и автора, очень давно читал, вроде бы какого-то из "советских" фантастов, т.е. периода ссср (но это неточно).

Там ситуация в сюжете была похожая, с тем лишь отличием, что умные боевые системы (не было во время автора еще понятия ИИ) не уничтожили человечество полностью, но успешно откатили его в каменный век - люди выжили только в виде небольших кочевых племен с технологиями каменного века: обработка камня, дерева, шкур, кости и т.д.. А главным условием выживания было полное отсутствие какого либо металла даже в виде мелких частичек - потому что умные боевые системы засекали любой осколок металла с высоты и атаковали все живое, что находилось рядом с металлом. Ну и между собой эти боевые системы все время воевали, попутно эволюционируя в сторону все большей эффективности уничтожения.   

[fgh]

Вспоминаю "Солярис" Лема.

У Лема, кстати, есть другое произведение, рассказ "Непобедимый", который даже лучше описывает данную тему. Там на планете не было органической жизни, потому что ее уничтожили самые примитивные маленькие частицы, которые сами по себе не могли сделать ничего и были уязвимые, но научились в ходе своей эволюции объединяться в различные формы, зависимо от нужд и сопротивляться со всем, что они считали угрозой. И дошло до того, что они таким образом уничтожали все живое и все другие машины, с более развитым интеллектом. Потому что их "мозговой центр" был ситуативным и его нельзя было побороть раз и навсегда.

Ну непобедимого ничего не бывает. Скорее всего рой уязвим для других видов роя, более совершенных. Опять-таки, ситуативный интеллект наверняка поддаётся какому-то абьюзу. Это всё, основанное на децентрализации типа блокчейна. Слабое месте любых блокчейнов - неповоротливость и медленная реакция, ибо надо всё со всеми согласовывать. А сильным качеством является усточивость к "проблеме одной головы". Прообраз решения этой проблемы - метод Змея Горыныча - неуязвимость за счёт децентрализованной регенерации.

[heyod hewow]

Ну непобедимого ничего не бывает. Скорее всего рой уязвим для других видов роя, более совершенных. Опять-таки, ситуативный интеллект наверняка поддаётся какому-то абьюзу. Это всё, основанное на децентрализации типа блокчейна. Слабое месте любых блокчейнов - неповоротливость и медленная реакция, ибо надо всё со всеми согласовывать. А сильным качеством является усточивость к "проблеме одной головы". Прообраз решения этой проблемы - метод Змея Горыныча - неуязвимость за счёт децентрализованной регенерации.

Эта уязвимость как раз таки была "решена" в рассказе Брюса Стерлинга "Рой" и весьма неплохо решена (понятно, что мы говорим о фантастическом произведении, просто интересное решение с точки зрения стратегии). Решена путем обратного инжиниринга "сильных сторон" более совершенного противника и выращивания на этой основе своих боевых элементов, которые внедрятся и разрушат более сильного противника изнутри. Советую прочитать, рассказ совсем короткий, много времени не отнимет.

[DrBeer]

Вспоминаю "Солярис" Лема.

У Лема, кстати, есть другое произведение, рассказ "Непобедимый", который даже лучше описывает данную тему. Там на планете не было органической жизни, потому что ее уничтожили самые примитивные маленькие частицы, которые сами по себе не могли сделать ничего и были уязвимые, но научились в ходе своей эволюции объединяться в различные формы, зависимо от нужд и сопротивляться со всем, что они считали угрозой. И дошло до того, что они таким образом уничтожали все живое и все другие машины, с более развитым интеллектом. Потому что их "мозговой центр" был ситуативным и его нельзя было побороть раз и навсегда.

Ну непобедимого ничего не бывает. Скорее всего рой уязвим для других видов роя, более совершенных. Опять-таки, ситуативный интеллект наверняка поддаётся какому-то абьюзу. Это всё, основанное на децентрализации типа блокчейна. Слабое месте любых блокчейнов - неповоротливость и медленная реакция, ибо надо всё со всеми согласовывать. А сильным качеством является усточивость к "проблеме одной головы". Прообраз решения этой проблемы - метод Змея Горыныча - неуязвимость за счёт децентрализованной регенерации.

У блокчейна есть еще одна проблема, как миниму по моему личному мнению. И она является следствием децентрализации - необратимость операций.
Проблемы которые порождаются децентрализацией :
- украли - не вернешь, не заблокируешь
- ошибся на одну цифро-букву - не вернешь, ибо для блокчейна все кошельки существуют, хотя и не все еще созданы

[heyod hewow]

У блокчейна есть еще одна проблема, как миниму по моему личному мнению. И она является следствием децентрализации - необратимость операций.
Проблемы которые порождаются децентрализацией :
- украли - не вернешь, не заблокируешь
- ошибся на одну цифро-букву - не вернешь, ибо для блокчейна все кошельки существуют, хотя и не все еще созданы

Это скорее не проблемы, а второй конец палки или обратная сторона медали. Инь, ян и хрень, короче. Их надо просто учитывать и быть осторожным.

Вы хотите анонимности? - так она идет только в комплекте с децентрализацией. Если ошибся на одну цифро-букву - да, уже не вернешь, но это плата за децентрализацию и анонимность. Будь внимателен, хочешь анонимности - сопли за тобой никто вытирать не будет, все сам.
Украли - не вернешь, не заблокируешь - если децентрализация, то да, увы. Или деанон по-полной, тогда будут блокировать адреса и активы воров... при условии, что украденный актив доступен для блокировки, т.е. не особо-то и анонимный и децентрализованный.
За все удобства надо чем-то платить.

[DrBeer]

У блокчейна есть еще одна проблема, как миниму по моему личному мнению. И она является следствием децентрализации - необратимость операций.
Проблемы которые порождаются децентрализацией :
- украли - не вернешь, не заблокируешь
- ошибся на одну цифро-букву - не вернешь, ибо для блокчейна все кошельки существуют, хотя и не все еще созданы

Это скорее не проблемы, а второй конец палки или обратная сторона медали. Инь, ян и хрень, короче. Их надо просто учитывать и быть осторожным.

Вы хотите анонимности? - так она идет только в комплекте с децентрализацией. Если ошибся на одну цифро-букву - да, уже не вернешь, но это плата за децентрализацию и анонимность. Будь внимателен, хочешь анонимности - сопли за тобой никто вытирать не будет, все сам.
Украли - не вернешь, не заблокируешь - если децентрализация, то да, увы. Или деанон по-полной, тогда будут блокировать адреса и активы воров... при условии, что украденный актив доступен для блокировки, т.е. не особо-то и анонимный и децентрализованный.
За все удобства надо чем-то платить.

Согласен, и мы вынуждены осознавать что любое нечто имеет две стороны, палки, медали, иней с янями
Про анонимность - тема уже затертая, и как показала практика 90% она вообще нафиг не нужна, если им не рассазали что за ними коварные спецслужбы следят. Из оставшихся 10% - наверное 0.0000001% реально могут представлять для когото интерес и реально использовать анонимность или скрытность как минимум. Остальные - это из области "анонимность одно из прав людей, мне его нужно".  При этом отнесет только к крипте, а в реальной жизни будет следить цифровыми следами где только можно...
Вопрос - ну вот здесь на форуме мы все Драконы, КрасныеШапочки и Вуглускры, вместо реальных Вася, Петя, Стасики или Марины (если когто спалил - извините чисто рандомный перебор имен был )
И как по мне , такая "анонимность" псевдореальна, и в большей мере для того скрыть свою лихуеватость или "вторую жизнь" от своих близких/друзей

Но если вернуться к крипте как сущности которую рассматривать как замену фиатной системы, то там необратимость - это скорее большой недостаток, Чем только второй конец палки...

[heyod hewow]

Но если вернуться к крипте как сущности которую рассматривать как замену фиатной системы, то там необратимость - это скорее большой недостаток, Чем только второй конец палки...

Вот тут подтянутся сторонники CBDC, щелкнут подтяжками и скажут: эээ, так есть же такая партия система - CBDC, она сочетает плюсы фиата и крипты и устраняет недостатки фиата и крипты, сплошные плюсы, никаких минусов... С - сарказм.

[DrBeer]

Но если вернуться к крипте как сущности которую рассматривать как замену фиатной системы, то там необратимость - это скорее большой недостаток, Чем только второй конец палки...

Вот тут подтянутся сторонники CBDC, щелкнут подтяжками и скажут: эээ, так есть же такая партия система - CBDC, она сочетает плюсы фиата и крипты и устраняет недостатки фиата и крипты, сплошные плюсы, никаких минусов... С - сарказм.

Так так оно и будет ! И расскажут как заботятся о вашей безопасности, чтобы преступников за бары и вернуть пострадавшим кровно заработанное. и бла бла бла, и прозрачность и безопасность, и быстро и дешево, и вообще канхфэтка.. "Канхвета очєнь класна, Тузік вкусний. "    НУ и будет как в  "Гамлєт, або Феномен датського кацапізма."