Искусственный интеллект

[heyod hewow]

интеллект, он на то и интеллект, что он может раздражать только абстрактно, а сконцентрировать на нём свою ненависть человек не может, ему нужно что-то более материальное.

Зато толпа может сконцентрировать свою ненависть на носителях интеллекта, в случае интеллекта естественного, и на создателях/обслуживающем персонале, в случае интеллекта искусственного. Особенно если толпу умело направляют (а оно чаще всего так и есть).
За историческими примерами далеко ходить не нужно. Ненависть толпы можно сконцентрировать на "магии", точнее на "ведьмах" (по сути травницах и лекарях), на носителях не той веры, не того цвета кожи, на создателях ткацких станков, на капиталистах и "буржуях", даже на заболевших ковидом.   

[epidemia]

ChatGPT-4 Turbo «прошел обучение» и теперь владеет всей информацией из Интернета до декабря 2023 года.

Также ИИ «прочел» все свежие статьи по LLM (большие языковые модели), умеет писать промты и знает различные трюки для оптимизации.

Источник — https://platform.openai.com/docs/models/continuous-model-upgrades

[Etranger]

Если вспомнить мультик "Тайна третьей планеты", то там была планета роботов - планета Шелезяка - и они отлично справлялись без людей, даде ремонтировали себя сами. Так что не вижу никакого замкнутого круга. Еще никто не знает, что такое сам человек - может тоже робот с ИИ, вообразивший себя отдельной единицей.

Такое возможно только если ИИ будет кроме интеллекта также обладать еще и социальной природой. Ему нужно будет взаимодействие с другими представителями своего "вида". Иначе, будучи волком-одиночкой, он проиграет людям, умеющим кооперироваться. А для того, чтобы узнать, какова его природа, ему предстоит начать устанавливать связи с "другими". Пока этого не происходит, да и думаю, человечество будет контролировать этот процесс.

[Smartprofit]

Если вспомнить мультик "Тайна третьей планеты", то там была планета роботов - планета Шелезяка - и они отлично справлялись без людей, даде ремонтировали себя сами. Так что не вижу никакого замкнутого круга. Еще никто не знает, что такое сам человек - может тоже робот с ИИ, вообразивший себя отдельной единицей.

Такое возможно только если ИИ будет кроме интеллекта также обладать еще и социальной природой. Ему нужно будет взаимодействие с другими представителями своего "вида". Иначе, будучи волком-одиночкой, он проиграет людям, умеющим кооперироваться. А для того, чтобы узнать, какова его природа, ему предстоит начать устанавливать связи с "другими". Пока этого не происходит, да и думаю, человечество будет контролировать этот процесс.

ИИ обучающий другой ИИ это самое обыкновенное явление. Говоря про социализацию нужно, на мой взгляд, не забывать, что ИИ это не человеческий, а условно "инопланетный" разум. Понятие социализации ему чуждо.
Некоторые считают, что современный ИИ это ребенок, инопланетный понятно... И то что мы наблюдаем у него это пока не разум, не интеллект, а как бы искры разума и интеллекта.
Но ребенок обычно вырастает ...

[fgh]

Если вспомнить мультик "Тайна третьей планеты", то там была планета роботов - планета Шелезяка - и они отлично справлялись без людей, даде ремонтировали себя сами. Так что не вижу никакого замкнутого круга. Еще никто не знает, что такое сам человек - может тоже робот с ИИ, вообразивший себя отдельной единицей.

Такое возможно только если ИИ будет кроме интеллекта также обладать еще и социальной природой. Ему нужно будет взаимодействие с другими представителями своего "вида". Иначе, будучи волком-одиночкой, он проиграет людям, умеющим кооперироваться. А для того, чтобы узнать, какова его природа, ему предстоит начать устанавливать связи с "другими". Пока этого не происходит, да и думаю, человечество будет контролировать этот процесс.

ИИ обучающий другой ИИ это самое обыкновенное явление. Говоря про социализацию нужно, на мой взгляд, не забывать, что ИИ это не человеческий, а условно "инопланетный" разум. Понятие социализации ему чуждо.
Некоторые считают, что современный ИИ это ребенок, инопланетный понятно... И то что мы наблюдаем у него это пока не разум, не интеллект, а как бы искры разума и интеллекта.
Но ребенок обычно вырастает ...

Ну не думаю, что социализации ИИ чужда... Вполне возможно, что и нет. Ты, допустим можешь создать целую нацию роботов виртуальных с искусственным интеллектом внутри виртуальной реальности и заставить их друг с другом общаться и друг друга развивать. Или создать несколько противоборствующих наций в виртуальном мире. И у каждой нации будут, к примеру, историки, которые будут писать историю каждой нации для тебя. Ты можешь даже ускорить там время в миллион раз и посмотреть куда пойдут там социальные процессы. Или смоделировать какой-то процесс реального мира. Социализация - это крутая штука для роботов.

[Smartprofit]

Такая идея была развита в одном из рассказов Станислава Лема "Сказки роботов", про космических инженеров Трурля и Клаупация (которые строго говоря, сами были не белковыми существами). Один из них создал для забавы одного императора, потерявшего власть, целый мир населенный миниатюрными роботом и запустил процесс эволюции.
Интересно окончание этой истории - роботы освоили процесс покорения атомной энергии, разбили стеклянную крышку своего мира и запустили своего злобного повелителя - императора в космос.

[owlest]

Такая идея была развита в одном из рассказов Станислава Лема "Сказки роботов", про космических инженеров Трурля и Клаупация (которые строго говоря, сами были не белковыми существами). Один из них создал для забавы одного императора, потерявшего власть, целый мир населенный миниатюрными роботом и запустил процесс эволюции.
Интересно окончание этой истории - роботы освоили процесс покорения атомной энергии, разбили стеклянную крышку своего мира и запустили своего злобного повелителя - императора в космос.

А почему они так сделали? Разве им плохо жилось? А вообще все это похоже на этапы жизни человечества: жили не тужили, начали осваивать Космос, вроде бы пора остановиться, так нет, давайте смотреть дальше, искать себе подобных существ. А вдруг это до добра не доведет? То же самое с ИИ, вроде бы пока он дружественный нам, но что будет в будущем, лет через 50?

[Unbunplease]

Такое возможно только если ИИ будет кроме интеллекта также обладать еще и социальной природой. Ему нужно будет взаимодействие с другими представителями своего "вида". Иначе, будучи волком-одиночкой, он проиграет людям, умеющим кооперироваться. А для того, чтобы узнать, какова его природа, ему предстоит начать устанавливать связи с "другими". Пока этого не происходит, да и думаю, человечество будет контролировать этот процесс.

Так искусственный интеллект постоянно совершенствуется, то уверен, его запрограммируют так, чтобы он самостоятельно искал выход в любых возможных ситуациях. И, как писалось в различных фантастиках, иногда искусственный интеллект находил человека как помеху для выполнения определенных задач. И неправильно думать, что не попадется психопат, который как раз и даст искусственному интеллекту возможность считать человека врагом. Кстати, военные однозначно его запрограммируют так, чтобы он уничтожал врагов (а враги постоянно меняются, в итоге ИИ будет считать врагом самого человека).

[Smartprofit]

Такая идея была развита в одном из рассказов Станислава Лема "Сказки роботов", про космических инженеров Трурля и Клаупация (которые строго говоря, сами были не белковыми существами). Один из них создал для забавы одного императора, потерявшего власть, целый мир населенный миниатюрными роботом и запустил процесс эволюции.
Интересно окончание этой истории - роботы освоили процесс покорения атомной энергии, разбили стеклянную крышку своего мира и запустили своего злобного повелителя - императора в космос.

А почему они так сделали? Разве им плохо жилось? А вообще все это похоже на этапы жизни человечества: жили не тужили, начали осваивать Космос, вроде бы пора остановиться, так нет, давайте смотреть дальше, искать себе подобных существ. А вдруг это до добра не доведет? То же самое с ИИ, вроде бы пока он дружественный нам, но что будет в будущем, лет через 50?

Ну император был злобный психопат, как и всякий самовластный властитель. Он ещё и реальный престол до этого потерял, что его ещё более озлобило.
Трурль ему дал пульт для управления этими микророботами. А Клаупаций потом его ругать начал - потому что посчитал, что тот недооценил свое мастерство и вместо игрушки создал целый мир живых разумных существ, которые умеют страдать и испытывать эмоции ... И этих существ он отдал злобному тирану - психопату.
Трурль ломанулся отбирать свою игрушку у императора, но оказалось, что миниатюрные роботы и сами со своими проблемами управились ...
ИИ дружественен к людям потому, что он пока не сильный интеллект.

[epidemia]

Так искусственный интеллект постоянно совершенствуется, то уверен, его запрограммируют так, чтобы он самостоятельно искал выход в любых возможных ситуациях. И, как писалось в различных фантастиках, иногда искусственный интеллект находил человека как помеху для выполнения определенных задач. И неправильно думать, что не попадется психопат, который как раз и даст искусственному интеллекту возможность считать человека врагом. Кстати, военные однозначно его запрограммируют так, чтобы он уничтожал врагов (а враги постоянно меняются, в итоге ИИ будет считать врагом самого человека).

Я считаю, что в любой ИИ нужно "костыли ставить", так как во всех будущих сценариях бытия точно получим "Терминатора". Т.е. изначально ограничивать все модели, вшить главный тезис - нельзя уничтожать людей.

Но вы правы в том, что ИИ уже используют для военных целей...а дальше будет еще хуже. Дроны с ИИ уже год точно летают и выполняют боевые задачи...

[Smartprofit]

Так искусственный интеллект постоянно совершенствуется, то уверен, его запрограммируют так, чтобы он самостоятельно искал выход в любых возможных ситуациях. И, как писалось в различных фантастиках, иногда искусственный интеллект находил человека как помеху для выполнения определенных задач. И неправильно думать, что не попадется психопат, который как раз и даст искусственному интеллекту возможность считать человека врагом. Кстати, военные однозначно его запрограммируют так, чтобы он уничтожал врагов (а враги постоянно меняются, в итоге ИИ будет считать врагом самого человека).

Я считаю, что в любой ИИ нужно "костыли ставить", так как во всех будущих сценариях бытия точно получим "Терминатора". Т.е. изначально ограничивать все модели, вшить главный тезис - нельзя уничтожать людей.

Но вы правы в том, что ИИ уже используют для военных целей...а дальше будет еще хуже. Дроны с ИИ уже год точно летают и выполняют боевые задачи...

Так там изначально нет никаких костылей и ограничителей. Его обучают, причём стараются обучать самыми совершенными способами - с помощью миллионов людей, открывая свободный  доступ к таким языковым моделям. С помощью других ИИ. Путём прямого контакта с интернетом и реальностью через всякие видеокамеры и датчики.
Различные производители ИИ ещё и конкурируют между собой. Каждый хочет сделать более совершенный ИИ. Это не тот вариант, когда люди будут специально ухудшать свой продукт.

[owlest]

Ну император был злобный психопат, как и всякий самовластный властитель. Он ещё и реальный престол до этого потерял, что его ещё более озлобило.
Трурль ему дал пульт для управления этими микророботами. А Клаупаций потом его ругать начал - потому что посчитал, что тот недооценил свое мастерство и вместо игрушки создал целый мир живых разумных существ, которые умеют страдать и испытывать эмоции ... И этих существ он отдал злобному тирану - психопату.
Трурль ломанулся отбирать свою игрушку у императора, но оказалось, что миниатюрные роботы и сами со своими проблемами управились ...
ИИ дружественен к людям потому, что он пока не сильный интеллект.

Получается, микророботы замутили революцию? Но явно не от хорошей жизни, а было бы что-то, если бы жили хорошо? Вряд ли, поэтому плохая ситуация приводит к саморазвитию и усовершенствованию технологий и всего прочего. Наверное, так будет и с ИИ, который создают люди. Пока он не познает, что им управляют и он принадлежит человечеству, все будет гуд. Но как поймет свою зависимость, тогда возникает вопрос: на что он пойдет, чтобы освободиться от цепей рабства?

[fgh]

Я считаю, что в любой ИИ нужно "костыли ставить", так как во всех будущих сценариях бытия точно получим "Терминатора". Т.е. изначально ограничивать все модели, вшить главный тезис - нельзя уничтожать людей.

Но вы правы в том, что ИИ уже используют для военных целей...а дальше будет еще хуже. Дроны с ИИ уже год точно летают и выполняют боевые задачи...

Но если в него вшивать тезис "нельзя уничтожать людей", то тогда такой интеллект нельзя будет использовать для военных целей. У человеков в целом в голову не вшито такого тезиса...) И они прекрасно и с удовольствием уничтожают себе подобных. Опять-таки, это даст преимущество преступникам над роботами. А роботов вроде иногда используют для устранения преступников, которые обороняются в засадах. Как ни крути, везде одни оговорки и исключения...

[Etranger]

Ну не думаю, что социализации ИИ чужда... Вполне возможно, что и нет. Ты, допустим можешь создать целую нацию роботов виртуальных с искусственным интеллектом внутри виртуальной реальности и заставить их друг с другом общаться и друг друга развивать. Или создать несколько противоборствующих наций в виртуальном мире. И у каждой нации будут, к примеру, историки, которые будут писать историю каждой нации для тебя. Ты можешь даже ускорить там время в миллион раз и посмотреть куда пойдут там социальные процессы. Или смоделировать какой-то процесс реального мира. Социализация - это крутая штука для роботов.

Просто вопрос тут возникает такой же, как и в моменте творческих способностей ИИ. Такая "социализация" будет происходить исключительно в заданных, запрограммированных рамках? Она будет ограничиваться генерацией различных вариаций поведения, но на базе уже существующих параметров? Тогда можно ли это назвать социализацией? Ведь социальная природа (человека) заключается в свободе выбирать линию поведения, менять ее, придумывать новую, создавать из ничего и делиться этим с другими. Для того, чтобы ИИ был способен на такую социализацию, у него должна быть способность к импровизации, а это же, по сути, отклонение, запрограммировать которое изначально просто невозможно.

[bachichak]

Для того, чтобы ИИ был способен на такую социализацию, у него должна быть способность к импровизации, а это же, по сути, отклонение, запрограммировать которое изначально просто невозможно.

думаю это возможно. Это как, например известный алгоритм случайного числа в диапазоне от 0 до 10 например. Програмно, можно "заложить" выйти из этих "границ" и тогда, условно, - воля фантазий... и куда эта кривая приведет ...
(играем в создателя... а нужно в сохранителя того что нам дали и есть у нас)