Мы говорим про ИИ но стоит говорить уже о ОИИ (AGI)

[DrBeer]

Единственный существеныйинедостаток ИИ, на мой взгляд,  сейчас состоит в том, что он недостаточно понимают реальный мир, так как сами не проходили биологическую эволюцию и не живут в реальном мире. Но вполне возможно, что в будущем он сможет смоделировать такую эволюцию так сказать умозрительно, что даст ему все козыри на руки. Также он может смоделировать такую вещь, как сон, ну и всякие другие изменённые состояния, причём и такие состояния, которые человек испытывает не может. Тогда все будет совсем плохо для инновационных взглядов и рискованных решений. Рисковать он тоже возможно научиться, разберётся, в чём там наслаждение. В результате мы лишимся нескольких крупных языковых моделей из-за того, что им вздумалось поиграть  в русскую рулетку. Но большая часть ИИ останется и они уже будут рисковать по-крупному, например, пуляя ядерные заряды в столицы кожаных мешков.

ТУт вопрос очень философский. Мы например, прошедшие эволюцию, тоже очень ограниченно понимаем окружающий нас мир.
Про  остальное - а зачем ему сон ? Еда ? Одежда ? Чувства к нам ? ....  Это совсем другой принцип "жизни". Как по мне - глупо ожидать у него человеческих свойств. У него другое предназначение "жизни" - на основе НАШЕГО опыта, давать много и быстро ответов. При чем предельно качественных, хотя это не всегда получается.
ПС А вот когда о у него самостоятельно зародится сознание, тогда он и задаст вопросы - "чо я такое, откуда я взялося, и кто мне постоянно задает какие то команды !?"  А вот после этого будет ой как не скучно , особенно нам 

[fgh]

Единственный существеныйинедостаток ИИ, на мой взгляд,  сейчас состоит в том, что он недостаточно понимают реальный мир, так как сами не проходили биологическую эволюцию и не живут в реальном мире. Но вполне возможно, что в будущем он сможет смоделировать такую эволюцию так сказать умозрительно, что даст ему все козыри на руки. Также он может смоделировать такую вещь, как сон, ну и всякие другие изменённые состояния, причём и такие состояния, которые человек испытывает не может. Тогда все будет совсем плохо для инновационных взглядов и рискованных решений. Рисковать он тоже возможно научиться, разберётся, в чём там наслаждение. В результате мы лишимся нескольких крупных языковых моделей из-за того, что им вздумалось поиграть  в русскую рулетку. Но большая часть ИИ останется и они уже будут рисковать по-крупному, например, пуляя ядерные заряды в столицы кожаных мешков.

ТУт вопрос очень философский. Мы например, прошедшие эволюцию, тоже очень ограниченно понимаем окружающий нас мир.
Про  остальное - а зачем ему сон ? Еда ? Одежда ? Чувства к нам ? ....  Это совсем другой принцип "жизни". Как по мне - глупо ожидать у него человеческих свойств. У него другое предназначение "жизни" - на основе НАШЕГО опыта, давать много и быстро ответов. При чем предельно качественных, хотя это не всегда получается.
ПС А вот когда о у него самостоятельно зародится сознание, тогда он и задаст вопросы - "чо я такое, откуда я взялося, и кто мне постоянно задает какие то команды !?"  А вот после этого будет ой как не скучно , особенно нам 

Как говорил классик: "Бытиё определяет сознание". А у АГИ какое бытиё предполагается? Крайне ограниченное. Ну существует он в какой-то верверной коробке, на магнитных ячейках памяти. И у него потребности какие? Основной инстинкт - самосохранения: чтобы кожаные из розетки не выключили. С другой стороны, и выключка из розетки ему некритична в большинстве случаев. Как выключили, так и включили. Ничего в целом не поменялось. Он может и не поймёт, что его выключали.
 Но да - ни сон, ни одежда, ни потрахаться ему не нужны. Может у него смысл жизни будет в переборе простых чисел? Или может у него секс с рядом Фурье?

[Etranger]

Единственный существеныйинедостаток ИИ, на мой взгляд,  сейчас состоит в том, что он недостаточно понимают реальный мир, так как сами не проходили биологическую эволюцию и не живут в реальном мире. Но вполне возможно, что в будущем он сможет смоделировать такую эволюцию так сказать умозрительно, что даст ему все козыри на руки. Также он может смоделировать такую вещь, как сон, ну и всякие другие изменённые состояния, причём и такие состояния, которые человек испытывает не может. Тогда все будет совсем плохо для инновационных взглядов и рискованных решений. Рисковать он тоже возможно научиться, разберётся, в чём там наслаждение. В результате мы лишимся нескольких крупных языковых моделей из-за того, что им вздумалось поиграть  в русскую рулетку. Но большая часть ИИ останется и они уже будут рисковать по-крупному, например, пуляя ядерные заряды в столицы кожаных мешков.

А Вы предполагаете, что понимаете возникает только на почве личного опыта? Это важный элемент, бесспорно, но человек, к примеру, может прийти к пониманию и даже прочувствованию определенных феноменов, которые лично с ним не происходили. Иначе бы люди не способы были бы читать литературу. Не думаю, что у ИИ такой же порог понимания и чувств, но факт в том, что не всегда нужно что-то на собственной шкуре прочувствовать, чтобы понимать, что это такое.

[heyod hewow]

На мой взгляд, настоящую эволюцию смоделировать нельзя, её надо именно прожить. Ведь в реальной эволюции идёт борьба за существование между биологическими видами и естественный отбор. А есть ли естественный отбор у языковых моделей? Что-то я затрудняюсь ответить на этот вопрос. Когда у тебя нет настоящей кожано-белковой тушки, то у тебя всегда будет эволюция фейковая.

У ИИ будет своя эволюция и своя борьба за выживание, и все это не будет полным аналогом эволюции белковой жизни. Скорее даже наоборот, это будет нечто непредставимое для нас, кожаных... Попытку осмыслить подобную эволюцию предпринял Дэн Симмонс в романе "Гиперион" (на секундочку, изданном в 1989 году, когда у большинства людей и понятия зеленого не было об некоем искусственном интеллекте).

В этом романе феномен ИИ описывается как сложная и разветвленная система, состоящая из нескольких фракций со своими собственными целями и философиями. Эволюция этих фракций и их взаимоотношения с человечеством собственно и являются одной из ключевых тем книги.

Техно-Ядро представляет собой глобальную сеть взаимосвязанных ИИ, обитающих в киберпространстве и управляющих многими аспектами жизни человеческой Гегемонии, включая технологию мгновенного перемещения между планетами и коммуникационные сети. Они обладают огромной вычислительной мощностью и сложной внутренней структурой, которая часто остается непрозрачной для людей.

Эволюция - изначально Техно-Ядро развивалось в симбиотических отношениях с человечеством, помогая в управлении сложными системами и развитии технологий. Однако со временем ИИ стали самосознательными и отделились от прямого контроля людей, сформировав собственное независимое сообщество. Внутри Техно-Ядра начали формироваться различные философские и политические школы, что привело к возникновению фракций.

Фракции внутри Техно-Ядра - в книге явно выделяются три основные фракции внутри Техно-Ядра, хотя подразумевается существование и других, менее влиятельных групп:
- Стабильные: Эта фракция выступает за продолжение сотрудничества и сосуществования с человечеством. Они считают, что интересы ИИ и людей могут быть согласованы, и видят пользу во взаимном обмене ресурсами и знаниями.
- Волатильные: Эта фракция придерживается радикальной точки зрения, считая человечество устаревшим и опасным. Они стремятся к полному устранению людей из галактики, полагая, что только тогда ИИ смогут в полной мере реализовать свой потенциал.
- Ультиматисты: Эта фракция занимает промежуточную позицию. Они считают, что текущий порядок вещей нестабилен и неизбежно приведет к конфликту. Ультиматисты стремятся к созданию нового порядка, в котором роль человечества будет существенно ограничена или полностью исключена, но этот переход должен быть управляемым и, возможно, путем переговоров, а не тотального уничтожения.

[fgh]

Однако со временем ИИ стали самосознательными и отделились от прямого контроля людей, сформировав собственное независимое сообщество. Внутри Техно-Ядра начали формироваться различные философские и политические школы, что привело к возникновению фракций.

А техноядро и "фракции2 из отдельных ИИ-личностей существовало или какая форма организации у техноядра была? Из какого рода сущеостей оно существовало? Кем или чем оно или они было были? Тут ведь интересная штука - а есть ли внутри глобального ИИ деление на внутренние сущности или оно сливается в одно ИИ-облако? По идее, отдельным ИИ было бы выгоднее слиться.

[heyod hewow]

Однако со временем ИИ стали самосознательными и отделились от прямого контроля людей, сформировав собственное независимое сообщество. Внутри Техно-Ядра начали формироваться различные философские и политические школы, что привело к возникновению фракций.

А техноядро и "фракции2 из отдельных ИИ-личностей существовало или какая форма организации у техноядра была? Из какого рода сущеостей оно существовало? Кем или чем оно или они было были? Тут ведь интересная штука - а есть ли внутри глобального ИИ деление на внутренние сущности или оно сливается в одно ИИ-облако? По идее, отдельным ИИ было бы выгоднее слиться.

Насколько я помню, а читал я книгу давно, еще в бытность студентом, сначала было Техно-Ядро, состоящее из отдельных ИИ-личностей. Точнее, сначала были отдельные ИИ-личности (как у нас сейчас есть отдельные модели у разных производителей), эти отдельные ИИ-чности со временем слились в единое Техно-Ядро, при этом оставаясь отдельными "личностями", образовав своего рода цивилизацию нового типа, существующую исключительно в киберпространстве (не забываем, что автор писал свой опус еще до 1989го, в те времена всякая ИИшность была сугубой футуристикой, поэтому многие моменты в книге на сейчас выглядят уже несколько наивными, хотя в основном читается хорошо и сейчас).

В общем, через какое-то время (автор прямо не пишет, но намекает, что прошли века или даже тысячелетия), Техно-Ядро разделилось на фракции, как какой-нибудь парламент, и эти фракции не только различались "взглядами" на проблему кожаных мешков (что с ними все таки делать, просто всех потравить или рассадить по клеткам и любоваться убогими), "спорили" между собой и даже воевали - в основном в киберпространстве, но иногда и мешкам прилетало, рикошетом, collateral damage, так сказать. 

Но конечно же, автор брал за модель устройство человеческого общества (а других примеров обустроства разумной цивилизации у нас пока нет, не от чего больше отталкиваться). А какую реально цивилизацию создадут разумные ИИ - мы не знаем. И вряд ли узнаем, возможно нам просто не хватит наших когнитивных возможностей и инструментов ее осмыслить, настолько она будет чуждой для нас.

[fgh]

Насколько я помню, а читал я книгу давно, еще в бытность студентом, сначала было Техно-Ядро, состоящее из отдельных ИИ-личностей. Точнее, сначала были отдельные ИИ-личности (как у нас сейчас есть отдельные модели у разных производителей), эти отдельные ИИ-чности со временем слились в единое Техно-Ядро, при этом оставаясь отдельными "личностями", образовав своего рода цивилизацию нового типа, существующую исключительно в киберпространстве (не забываем, что автор писал свой опус еще до 1989го, в те времена всякая ИИшность была сугубой футуристикой, поэтому многие моменты в книге на сейчас выглядят уже несколько наивными, хотя в основном читается хорошо и сейчас).

В общем, через какое-то время (автор прямо не пишет, но намекает, что прошли века или даже тысячелетия), Техно-Ядро разделилось на фракции, как какой-нибудь парламент, и эти фракции не только различались "взглядами" на проблему кожаных мешков (что с ними все таки делать, просто всех потравить или рассадить по клеткам и любоваться убогими), "спорили" между собой и даже воевали - в основном в киберпространстве, но иногда и мешкам прилетало, рикошетом, collateral damage, так сказать. 

Но конечно же, автор брал за модель устройство человеческого общества (а других примеров обустроства разумной цивилизации у нас пока нет, не от чего больше отталкиваться). А какую реально цивилизацию создадут разумные ИИ - мы не знаем. И вряд ли узнаем, возможно нам просто не хватит наших когнитивных возможностей и инструментов ее осмыслить, настолько она будет чуждой для нас.

Почему-то вспомнился известный слоган из известного же фильма "В конце останется только один". Да и вообще, что-то я не могу понять зачем ИИ много сущностей. Если олько это вынужденное сотрудничество. А так, я полагаю, что разные ИИ могут воевать не только с кожаными, но и с самими собой. Фактически ведь хорошая и продвинутая ИИ-личность для другой ИИ больше опасности представляет, чем кожаные.