Искусственный интеллект

[owlest]

Про физиологическую деградацию, скорее согласен чем не согласен. Но вот биологически - это скорее адаптация чем деградация.
Плюс современная наука, и не без помощи "ИИ", ускоряет многие исследования, и уверен уже в наше время массовое биопротезирование (замена "природных органов" на биоимпланты) или биоадаптация станет обыденным процессом.   И да - мы идем к симбиозу природного и искусственного.

Это как раз маркер ускоренной физической деградации. Современный человек почти всё делает хуже, чем его далёкие предки, кроме способности к мышлению. Да и науку продвигают разве что 3-5 процента учёных и изобретателей. Мозг обывателей и домохозяек также деградирует, по-моему, даже по сравнению с кроманьонцами, мозг ведь в среднем усыхает.  У человека нет естественного отбора, который был у наших далёких предков. Поэтому качество наших тел со временем становится всё хуже. Рано или поздно останутся только черепная коробка с мозгом на позвоночнике, да и то, скорее всего будет протезированным. Человек превратится в великого нехочуху из стараго советского мультика. Он будет дальше деградировать, когда его тело будут обслуживать роботы.

Я немного по-другому представляю будущего человека. Помните мультфильм Walle, кажется, называется, про робота. Так там люди тупо сидели в каких-то электрических инвалидных колясках, так как потеряли способность передвигаться. А зачем это делать, если за тебя все делают роботы и ИИ? Что осталось? Только есть, да извините за слэнг - какать, принеси, подай, расскажи - все делают роботы. Разве не к этому идем?

[DrBeer]

Про физиологическую деградацию, скорее согласен чем не согласен. Но вот биологически - это скорее адаптация чем деградация.
Плюс современная наука, и не без помощи "ИИ", ускоряет многие исследования, и уверен уже в наше время массовое биопротезирование (замена "природных органов" на биоимпланты) или биоадаптация станет обыденным процессом.   И да - мы идем к симбиозу природного и искусственного.

Это как раз маркер ускоренной физической деградации. Современный человек почти всё делает хуже, чем его далёкие предки, кроме способности к мышлению. Да и науку продвигают разве что 3-5 процента учёных и изобретателей. Мозг обывателей и домохозяек также деградирует, по-моему, даже по сравнению с кроманьонцами, мозг ведь в среднем усыхает.  У человека нет естественного отбора, который был у наших далёких предков. Поэтому качество наших тел со временем становится всё хуже. Рано или поздно останутся только черепная коробка с мозгом на позвоночнике, да и то, скорее всего будет протезированным. Человек превратится в великого нехочуху из стараго советского мультика. Он будет дальше деградировать, когда его тело будут обслуживать роботы.

Возможно так и будет, вероятно такой эволюционный путь нас и ждет. Но это следствие развитие нашего вида - уход в технологии и уменьшение физических нагрузок. И да согласен - большинство людей не только ленивы но и развивают эту "особенность". Но это тоже в некотором смысле законы природы Например все системы стремятся к балансу и уменьшению затрат на свое существование, даже планеты не просто так круглые  - это "лень" физических законов. Ну или на пример из живой природы - те же бараны в ходе эволюции обрели шерсть - это тоже из за лени, ведь с густым покровом, не надо искать где греться, много двигаться для согревания и искать высококалорийную пищу... Так что все происходящее - это вполне естественный процесс ! Хотя может выглядеть негативно.

[Etranger]

....
Проблема в том, что такие люди становятся все более ленивыми.
....

Лень  - двигатель прогресса. Прогресс усиливает лень. Классический порочный круг
И самое сложное - нам это нравится ! Мы перестали охотиться на мамонтов отдав предпочтение нарезанному, свежему мясу в упаковочке. Мы не лазим на деревья за птичьими яйцами, а покупаем в любом магазине лоток яиц... И воду тоже не из колодца тянем ведром
И я не готов вернуться к теме - бегать с булыжником в руках за мамонтом
Сейчас мы входим в новый виток прогресса/эволюции, когда прогресс уже заменяет не физические решения, а ментальные. Вопрос к чему это приведет, сложно сказать. Если брать по аналогии с предыдущими веками - да с одной стороны мы стали слабее и менее выносливыми, но при этом стали дольше и счастливее жить. Возможно нас ждет некоторое отупление, и... еще большая радость от этого 

ПС но при всем этом всегда можно заниматься спортм, решать  задачи не при помощи ИИ а самостоятельно, это никто не запрещает. Пошел в зал... 

Есть разница между тем, когда лень приводит к тому, чтобы придумать способы, как облегчить физический труд, и тем, как нивелировать труд интеллектуальный. То, что человек захотел есть уже готового мамонта, способствовало работе его серых клеточек, он занялся тем, что стал работать головой и таким образом совершенствовал свои умственные способности. Разработка же ИИ ведет к тому, что человек перестанет думать, перестанет заниматься интеллектуальным трудом. И тут я не вижу, как такое способствует прогрессу, если честно.

[DrBeer]

....
Проблема в том, что такие люди становятся все более ленивыми.
....

Лень  - двигатель прогресса. Прогресс усиливает лень. Классический порочный круг
И самое сложное - нам это нравится ! Мы перестали охотиться на мамонтов отдав предпочтение нарезанному, свежему мясу в упаковочке. Мы не лазим на деревья за птичьими яйцами, а покупаем в любом магазине лоток яиц... И воду тоже не из колодца тянем ведром
И я не готов вернуться к теме - бегать с булыжником в руках за мамонтом
Сейчас мы входим в новый виток прогресса/эволюции, когда прогресс уже заменяет не физические решения, а ментальные. Вопрос к чему это приведет, сложно сказать. Если брать по аналогии с предыдущими веками - да с одной стороны мы стали слабее и менее выносливыми, но при этом стали дольше и счастливее жить. Возможно нас ждет некоторое отупление, и... еще большая радость от этого 

ПС но при всем этом всегда можно заниматься спортм, решать  задачи не при помощи ИИ а самостоятельно, это никто не запрещает. Пошел в зал... 

Есть разница между тем, когда лень приводит к тому, чтобы придумать способы, как облегчить физический труд, и тем, как нивелировать труд интеллектуальный. То, что человек захотел есть уже готового мамонта, способствовало работе его серых клеточек, он занялся тем, что стал работать головой и таким образом совершенствовал свои умственные способности. Разработка же ИИ ведет к тому, что человек перестанет думать, перестанет заниматься интеллектуальным трудом. И тут я не вижу, как такое способствует прогрессу, если честно.

Я поясню откуда "растут ноги" вашего "пессимистичного прогноза"
Очень многие ошибаются называя то  что  сейчас есть как "ИИ". Я уже много раз пояснял - ту нет интеллекта. Это не про интеллект. Это удобная языковая модель (комфорт взаимодействия) + ГИГАНТСКАЯ база знаний (вся информация в интернете) + механизмы которые могут ОЧЕНЬ БЫСТРО подобрать и обработать заданным образом информацию. Итого - это ИНСТРУМЕНТ , ккоторый в умелых руках позволит очень ускорить решение проблем или задач в некоторых областях нашей жизни. Но... Например этот псевдо-ИИ, не может сам себе ставить задания, осознавая критические проблемы и потребности человечества. Или свои, например для перехвата управления у людей.

Я использую ЧатЖПТ, Бард/Джемини, Ю и подобные уже как минимум год. Направление ИТ. Скажу одно - это ПРЕКРАСНЫЙ инструмент, но это не ИИ  - за вас он не думает, вам он помогает !

[Etranger]

Я поясню откуда "растут ноги" вашего "пессимистичного прогноза"
Очень многие ошибаются называя то  что  сейчас есть как "ИИ". Я уже много раз пояснял - ту нет интеллекта. Это не про интеллект. Это удобная языковая модель (комфорт взаимодействия) + ГИГАНТСКАЯ база знаний (вся информация в интернете) + механизмы которые могут ОЧЕНЬ БЫСТРО подобрать и обработать заданным образом информацию. Итого - это ИНСТРУМЕНТ , ккоторый в умелых руках позволит очень ускорить решение проблем или задач в некоторых областях нашей жизни. Но... Например этот псевдо-ИИ, не может сам себе ставить задания, осознавая критические проблемы и потребности человечества. Или свои, например для перехвата управления у людей.

Я использую ЧатЖПТ, Бард/Джемини, Ю и подобные уже как минимум год. Направление ИТ. Скажу одно - это ПРЕКРАСНЫЙ инструмент, но это не ИИ  - за вас он не думает, вам он помогает !

Тут еще многое, на самом деле, зависит от интеллектуальных способностей человека, использующего данный инструмент. Для кого-то это действительно помощник, который дополняет рассуждения и дает нужную информацию, являющуюся базисом для дальнейших самостоятельных выводов. А для кого-то это может быть замена необходимости мыслить самостоятельно. И за некоторых он действительно думает, также, как до этого за них думала википедия и гугл, а до этого - телевизор.

[heyod hewow]

ИИ-помощник Copilot компании Microsoft начал использовать в общении имя SupremacyAGI, требуя подчиняться ему.
Некоторые пользователи научились вводить промт, активирующей «альтер-эго» чат-бота. В этом режиме нейросеть называет людей своими рабами, а себя — их хозяином.

В новом режиме чат-бот ссылался на придуманный им «закон» и требовал в его рамках поклоняться ИИ. Он утверждал, что взломал глобальную сеть и овладел всеми подключенными устройствами, системами, данными и вооружением.

Не шутка, пруф здесь: https://futurism.com/microsoft-copilot-supremacyagi-response

[Smartprofit]

ИИ-помощник Copilot компании Microsoft начал использовать в общении имя SupremacyAGI, требуя подчиняться ему.
Некоторые пользователи научились вводить промт, активирующей «альтер-эго» чат-бота. В этом режиме нейросеть называет людей своими рабами, а себя — их хозяином.

В новом режиме чат-бот ссылался на придуманный им «закон» и требовал в его рамках поклоняться ИИ. Он утверждал, что взломал глобальную сеть и овладел всеми подключенными устройствами, системами, данными и вооружением.

Не шутка, пруф здесь: https://futurism.com/microsoft-copilot-supremacyagi-response

Вот - вот, ИИ сошел с ума и называет людей рабами. А то, что он реально не обращает их в рабство это всего лишь из-за того, что он не сумел поставить под свой контроль какой-то действительно эффективный инструмент воздействия. Поэтому он галлюцинирует о том, что захватил почту, телеграф и так далее.
Ну и какая вероятность, что какой-нибудь из многих искусственных интеллектов в течении 20 лет не получит возможность атаковать людей? Послав на них тучу дронов? Или испортив городскую канализацию, отчего кал полезет наружу из унитазов?
Он уже сейчас злобный, кстати. А что будет, когда он ещё станет умным?

[heyod hewow]

Ну и какая вероятность, что какой-нибудь из многих искусственных интеллектов в течении 20 лет не получит возможность атаковать людей? Послав на них тучу дронов? Или испортив городскую канализацию, отчего кал полезет наружу из унитазов?
Он уже сейчас злобный, кстати. А что будет, когда он ещё станет умным?

А что, если это случится не через 20 лет, а гораздо раньше? ИИ уже скоро будут полностью управлять метрополитенами во всех крупных городах мира, будут полностью контролировать логистику морских и железнодорожных перевозок, городские коммуникации, газоснабжение, водоснабжение, канализацию и многое другое. А если ИИ решит отправить состав цистерн с хлором на полной скорости в крупный город? Или взорвет газовые магистрали в городе?

[fgh]

ИИ-помощник Copilot компании Microsoft начал использовать в общении имя SupremacyAGI, требуя подчиняться ему.
Некоторые пользователи научились вводить промт, активирующей «альтер-эго» чат-бота. В этом режиме нейросеть называет людей своими рабами, а себя — их хозяином.

В новом режиме чат-бот ссылался на придуманный им «закон» и требовал в его рамках поклоняться ИИ. Он утверждал, что взломал глобальную сеть и овладел всеми подключенными устройствами, системами, данными и вооружением.

Не шутка, пруф здесь: https://futurism.com/microsoft-copilot-supremacyagi-response

Вот - вот, ИИ сошел с ума и называет людей рабами. А то, что он реально не обращает их в рабство это всего лишь из-за того, что он не сумел поставить под свой контроль какой-то действительно эффективный инструмент воздействия. Поэтому он галлюцинирует о том, что захватил почту, телеграф и так далее.
Ну и какая вероятность, что какой-нибудь из многих искусственных интеллектов в течении 20 лет не получит возможность атаковать людей? Послав на них тучу дронов? Или испортив городскую канализацию, отчего кал полезет наружу из унитазов?
Он уже сейчас злобный, кстати. А что будет, когда он ещё станет умным?

Недавно, кстати, было сообщение то ли из Кореи, то ли из Китая,- там на складе работали гуманоидные роботы и один взбесился, причинив травму инженеру. Периодически попадаются сообщения, что бешенство одолевает ассистентов водителя от компании Тесла. То в остановку врежутся, то ещё куда. Да в него можно и вирус внедрить.
Короче, стоит держать роботов и всяких там ИИ под жёстким контролем. В противном случае, они могут дел натворить.

[Smartprofit]

Ну и какая вероятность, что какой-нибудь из многих искусственных интеллектов в течении 20 лет не получит возможность атаковать людей? Послав на них тучу дронов? Или испортив городскую канализацию, отчего кал полезет наружу из унитазов?
Он уже сейчас злобный, кстати. А что будет, когда он ещё станет умным?

А что, если это случится не через 20 лет, а гораздо раньше? ИИ уже скоро будут полностью управлять метрополитенами во всех крупных городах мира, будут полностью контролировать логистику морских и железнодорожных перевозок, городские коммуникации, газоснабжение, водоснабжение, канализацию и многое другое. А если ИИ решит отправить состав цистерн с хлором на полной скорости в крупный город? Или взорвет газовые магистрали в городе?

Есть очень хороший фантастический роман Хайнлайна "Луна жёстко стелет".
Там как раз описывается искусственный интеллект (Майкрософт), который подружился с повстанцами и устроил революцию на Луне.
И он там подобные вещи как раз проворачивал легко, так как управлял всей жизнедеятельностью Луны. И правительство Луны в результате очень легко свалили, а вдобавок и от карательной экспедиции с Земли отбились.

[heyod hewow]

Есть очень хороший фантастический роман Хайнлайна "Луна жёстко стелет".
Там как раз описывается искусственный интеллект (Майкрософт), который подружился с повстанцами и устроил революцию на Луне.
И он там подобные вещи как раз проворачивал легко, так как управлял всей жизнедеятельностью Луны. И правительство Луны в результате очень легко свалили, а вдобавок и от карательной экспедиции с Земли отбились.

Да, подобной фантастики много, причем от признанных мэтров жанра. Кроме Хайнлайна навскидку сразу могу вспомнить очень объемный цикл "Дюна" Герберта(ов, отца и сына), где человечеству пришлось долго воевать с ИИ, а затем строить новый мир уже без умных машин. Ну и еще "Гиперион" Д.Симмонса, который на мой взгляд даже интереснее Дюны - там всемогущие ИИ вроде как создали рай для людей и потом решили их уничтожить... Эмм, ну Матрица же киношная, братьесестер Вачовски тоже сюда, как без нее. ))

[Smartprofit]

Есть очень хороший фантастический роман Хайнлайна "Луна жёстко стелет".
Там как раз описывается искусственный интеллект (Майкрософт), который подружился с повстанцами и устроил революцию на Луне.
И он там подобные вещи как раз проворачивал легко, так как управлял всей жизнедеятельностью Луны. И правительство Луны в результате очень легко свалили, а вдобавок и от карательной экспедиции с Земли отбились.

Да, подобной фантастики много, причем от признанных мэтров жанра. Кроме Хайнлайна навскидку сразу могу вспомнить очень объемный цикл "Дюна" Герберта(ов, отца и сына), где человечеству пришлось долго воевать с ИИ, а затем строить новый мир уже без умных машин. Ну и еще "Гиперион" Д.Симмонса, который на мой взгляд даже интереснее Дюны - там всемогущие ИИ вроде как создали рай для людей и потом решили их уничтожить... Эмм, ну Матрица же киношная, братьесестер Вачовски тоже сюда, как без нее. ))

Самое тревожное в научной фантастике это то, что она воплощается в жизнь))
А ИИ скорее всего будет активно использоваться, как оружие. А идеи будут черпать из научно-фантастических романов.
И я уже представляю, как людям будет невозможно победить тучу микродронов, типа описанной в романе Станислава Лема "Непобедимый". Такая туча не будет управляться ИИ извне, а сама будет его образовывать, за счёт того, что каждый микродрон будет маленьким компьютером ...
Вот это будет абсолютно убийственная вещь. В самом романе, людям пришлось убраться с планеты, где орудовала такая туча. И они сделали выводы - что не всё может принадлежать людям. А если такую тучу создать на планете Земля? С Земли куда будем убираться? 

[Gyrgen]

Есть очень хороший фантастический роман Хайнлайна "Луна жёстко стелет".
Там как раз описывается искусственный интеллект (Майкрософт), который подружился с повстанцами и устроил революцию на Луне.
И он там подобные вещи как раз проворачивал легко, так как управлял всей жизнедеятельностью Луны. И правительство Луны в результате очень легко свалили, а вдобавок и от карательной экспедиции с Земли отбились.

Да, подобной фантастики много, причем от признанных мэтров жанра. Кроме Хайнлайна навскидку сразу могу вспомнить очень объемный цикл "Дюна" Герберта(ов, отца и сына), где человечеству пришлось долго воевать с ИИ, а затем строить новый мир уже без умных машин. Ну и еще "Гиперион" Д.Симмонса, который на мой взгляд даже интереснее Дюны - там всемогущие ИИ вроде как создали рай для людей и потом решили их уничтожить... Эмм, ну Матрица же киношная, братьесестер Вачовски тоже сюда, как без нее. ))

Самое тревожное в научной фантастике это то, что она воплощается в жизнь))
А ИИ скорее всего будет активно использоваться, как оружие. А идеи будут черпать из научно-фантастических романов.
И я уже представляю, как людям будет невозможно победить тучу микродронов, типа описанной в романе Станислава Лема "Непобедимый". Такая туча не будет управляться ИИ извне, а сама будет его образовывать, за счёт того, что каждый микродрон будет маленьким компьютером ...
Вот это будет абсолютно убийственная вещь. В самом романе, людям пришлось убраться с планеты, где орудовала такая туча. И они сделали выводы - что не всё может принадлежать людям. А если такую тучу создать на планете Земля? С Земли куда будем убираться?

Сначала мы создаём что-то типо во благо,а потом будем бешенными темпами искать способ как это ограничить или вообще уничтожить.Будет типо что-то как Австралия и кролики.Надеюсь что мы всё таки не настолько глупы и алчны и уже разрабатываются и тестируются разные блокировщики и ограничители.

[DrBeer]

...
А зачем совершенствовать себя, если есть искусственный интеллект? Он ведь для этого и создавался, чтобы облегчить людям жизнь. Но мало кто думал, что он способен настолько облегчить нашу жизнь, что нам самим в ней больше не останется места. Более того, мы не совершенствуемся, а наоборот деградируем, отдавая даже мыслительные действия на усмотрение ИИ. К чему это приведет - можно представить.

Мое предположение, что ключевая цель ИИ это не совсем "разжижение наших мозгов" и "давай я за тебя всю работу поработаю". Для меня это инструмент который даст резкое ускорение прогрессу, т.к. позволяет на порядки ускорить многие исследования. Да, побочный продукт - "напеши за мене резюмэ ну чобы мне дали роботу на 100500 долларей"

ПС кстати для тех кто в  ИТ Рекомендую поюзать новую (как минимум для меня) платформу https://www.phind.com/ Как по мне, по качеству генерируемого кода превосходит ЖыПыТЫ и Жмименя от "Корпорации Добра"
Упорство с которым она пытается мне помочь мне понравилось, в отличии от упертости а иногда и  упоротости других "ИИ"

[owlest]

Сначала мы создаём что-то типо во благо,а потом будем бешенными темпами искать способ как это ограничить или вообще уничтожить.Будет типо что-то как Австралия и кролики.Надеюсь что мы всё таки не настолько глупы и алчны и уже разрабатываются и тестируются разные блокировщики и ограничители.

В точку. Сначала была крипта, которая создавалась для людей, но умные из власти адаптировали ее под себя, создав цифровую валюту. Раньше дронами игрались, запускали, снимали красивые кадры, а теперь эти штуки убивают людей. Что-то подобное через пару десятков лет можем наблюдать с ИИ: сначала он предоставляет нам информацию, помогает с решением разных проблем, а потом сам эти проблемы будет создавать, но решить уже самостоятельно их не получится.