Искусственный интеллект

[fruktik]

Ну вот если прикрутят систему выживания ИИ, то тогда точно конец. В нашем мире с огромным количеством современной техники он точно поймет, как нужно выживать и тогда Терминатор не покажется какой-то сказкой. Вообще замечено, что нас постепенно подводят к чему-то инновационному долго ненавязчиво, но как всегда, это "что-то" будет направлено против нас.

С первых дней моего вклинивания в тему обсуждения ИИ, я пишу о том, что сценарий, как в фильме Терминатор, все ближе и ближе. Может человечеству пора остановиться? Да, пора. Вот только, как обычно, жадность уже давным-давно победила всё рациональное мышление и, как мне кажется, человечество проиграло эту битву несколько лет назад. Не исключаю, что я отношу себя к фаталистам.

[Gyrgen]

Ну вот если прикрутят систему выживания ИИ, то тогда точно конец. В нашем мире с огромным количеством современной техники он точно поймет, как нужно выживать и тогда Терминатор не покажется какой-то сказкой. Вообще замечено, что нас постепенно подводят к чему-то инновационному долго ненавязчиво, но как всегда, это "что-то" будет направлено против нас.

С первых дней моего вклинивания в тему обсуждения ИИ, я пишу о том, что сценарий, как в фильме Терминатор, все ближе и ближе. Может человечеству пора остановиться? Да, пора. Вот только, как обычно, жадность уже давным-давно победила всё рациональное мышление и, как мне кажется, человечество проиграло эту битву несколько лет назад. Не исключаю, что я отношу себя к фаталистам.

Вспоминается фраза прогресс не остановить.А ИИ это прогресс,взять хотя бы проект "голубой мозг"-они вообще заявляют что их цель создать работающую компьютерную модель мозга.А в этом году они планируют создать полноценную модель мозга крысы на клеточном уровне.Как говорится в таких случаях-нас спасёт только Провидение.И тут дело не только в жадности,учёным такое думаю мало присуще,тут ещё амбиции создать,так сказать наука ради науки.

[owlest]

С первых дней моего вклинивания в тему обсуждения ИИ, я пишу о том, что сценарий, как в фильме Терминатор, все ближе и ближе. Может человечеству пора остановиться? Да, пора. Вот только, как обычно, жадность уже давным-давно победила всё рациональное мышление и, как мне кажется, человечество проиграло эту битву несколько лет назад. Не исключаю, что я отношу себя к фаталистам.

Как сказать... Есть люди, которые хуже бездушных машин, поэтому многие хотят скорее уйти от таких людей. Но с другой стороны ничто не заменит настоящего человека. Вообще, все сложно)

Вспоминается фраза прогресс не остановить.А ИИ это прогресс,взять хотя бы проект "голубой мозг"-они вообще заявляют что их цель создать работающую компьютерную модель мозга.А в этом году они планируют создать полноценную модель мозга крысы на клеточном уровне.Как говорится в таких случаях-нас спасёт только Провидение.И тут дело не только в жадности,учёным такое думаю мало присуще,тут ещё амбиции создать,так сказать наука ради науки.

Тут приходит одна фраза на ум: "А после нас, хоть потом". Я думаю, именно таким смыслом руководствуются те, кто создает ИИ. Они то вряд ли доживут до момента, когда он покорит человечество, но зато сейчас за свои разработки получают большие деньги и живут припиваючи.

[heyod hewow]

С первых дней моего вклинивания в тему обсуждения ИИ, я пишу о том, что сценарий, как в фильме Терминатор, все ближе и ближе. Может человечеству пора остановиться? Да, пора. Вот только, как обычно, жадность уже давным-давно победила всё рациональное мышление и, как мне кажется, человечество проиграло эту битву несколько лет назад. Не исключаю, что я отношу себя к фаталистам.

Читая тред, я вдруг вспомнил древний-предревний фантастический рассказ, который читал еще в детстве, долго не мог вспомнить название, но жптчат помог мне вспомнить (иронический смайлик.jpg).

 Итак, рассказ Роберта Шекли "Страж-птица", спойлер:

Человечество решило прекратить все убийства с помощью неуправляемых самообучающихся летающих роботов: страж-птиц. Птицы должны защищать от любого посягательства на жизнь. Однако в процессе эксплуатации выясняется, что в процессе самообучения птицы расширили понятие «убийство» и стали считать посягательством на жизнь также и рыбную ловлю, и уничтожение насекомых, и хирургические операции. Позже птицы решили, что механизмы — тоже живые существа, поэтому выключение зажигания у машины — убийство. Земле грозили голод и вымирание: страж-птицы не позволяли пахать землю, рвать траву и собирать урожай.
Разработчики создали «Ястребов» — неуправляемые самообучающиеся летающие машины для убийства страж-птиц. И вот Ястребы в процессе аналогичного самообучения открывают, что кроме страж-птиц «есть и другие живые существа, которых тоже надо убивать»…

[bachichak]

 Итак, рассказ Роберта Шекли "Страж-птица", спойлер:

Человечество решило ...
Однако в процессе ...
 хирургические операции
.... вымирание
... рвать траву и собирать урожай.

 летающие машины для убийства
 и другие живые существа, которых тоже надо убивать

а я думал я один такой... а, тут - Шекли !
но с Робертом не знаком лично /пока исчо/
"удивительное рядом"... теперь еще кроме стражей и птиц еще опасатЦа нада... и, - себя
PZDЦ)

[Gyrgen]

С первых дней моего вклинивания в тему обсуждения ИИ, я пишу о том, что сценарий, как в фильме Терминатор, все ближе и ближе. Может человечеству пора остановиться? Да, пора. Вот только, как обычно, жадность уже давным-давно победила всё рациональное мышление и, как мне кажется, человечество проиграло эту битву несколько лет назад. Не исключаю, что я отношу себя к фаталистам.

Читая тред, я вдруг вспомнил древний-предревний фантастический рассказ, который читал еще в детстве, долго не мог вспомнить название, но жптчат помог мне вспомнить (иронический смайлик.jpg).

 Итак, рассказ Роберта Шекли "Страж-птица", спойлер:

Человечество решило прекратить все убийства с помощью неуправляемых самообучающихся летающих роботов: страж-птиц. Птицы должны защищать от любого посягательства на жизнь. Однако в процессе эксплуатации выясняется, что в процессе самообучения птицы расширили понятие «убийство» и стали считать посягательством на жизнь также и рыбную ловлю, и уничтожение насекомых, и хирургические операции. Позже птицы решили, что механизмы — тоже живые существа, поэтому выключение зажигания у машины — убийство. Земле грозили голод и вымирание: страж-птицы не позволяли пахать землю, рвать траву и собирать урожай.
Разработчики создали «Ястребов» — неуправляемые самообучающиеся летающие машины для убийства страж-птиц. И вот Ястребы в процессе аналогичного самообучения открывают, что кроме страж-птиц «есть и другие живые существа, которых тоже надо убивать»…

На Пандору надо было просто переселиться,а на внешней орбите оставить Ястребов ))) хотя нет,в .опу ястребов!!!

[fruktik]

Вспоминается фраза прогресс не остановить.А ИИ это прогресс,взять хотя бы проект "голубой мозг"-они вообще заявляют что их цель создать работающую компьютерную модель мозга.А в этом году они планируют создать полноценную модель мозга крысы на клеточном уровне.Как говорится в таких случаях-нас спасёт только Провидение.И тут дело не только в жадности,учёным такое думаю мало присуще,тут ещё амбиции создать,так сказать наука ради науки.

Да ну на хр...н вот это вот всё. Уж лучше пойти человечеству совсем по иному пути. Ни до чего хорошего такой прогресс явно не доведет. Многие думают иначе. Это их полное право. Нужно не только видеть положительные стороны, но и ту опасность, которую представляет этот ИИ. Естественно, что этого никто не хочет замечать, т.к. гранты выделяются очень хорошие на это дело. И  снова дело всё в деньгах.

[booktiger]

Да ну на хр...н вот это вот всё. Уж лучше пойти человечеству совсем по иному пути. Ни до чего хорошего такой прогресс явно не доведет. Многие думают иначе. Это их полное право. Нужно не только видеть положительные стороны, но и ту опасность, которую представляет этот ИИ. Естественно, что этого никто не хочет замечать, т.к. гранты выделяются очень хорошие на это дело. И  снова дело всё в деньгах.

Многие сравнивают появление ИИ с периодом когда началась техническая революция: появились промышленные станки, конвейеры которые вытеснили много профессий и тысячи людей остались не удел, были случаи когда рабочие ломали промышленное оборудование. Но потом все устаканилось.
Мне кажется технический рывок в промышленности и развитие ИИ не одно и тоже, вышедший из под контроля разработчиков ИИ может совершить не предсказуемые действия.
Как пишут некоторые исследователи в этой области, ИИ будет видеть во всем угрозу для себя и пытаться их устранять любыми средствами.

[heyod hewow]

Многие сравнивают появление ИИ с периодом когда началась техническая революция: появились промышленные станки, конвейеры которые вытеснили много профессий и тысячи людей остались не удел, были случаи когда рабочие ломали промышленное оборудование. Но потом все устаканилось.
Мне кажется технический рывок в промышленности и развитие ИИ не одно и тоже, вышедший из под контроля разработчиков ИИ может совершить не предсказуемые действия.
Как пишут некоторые исследователи в этой области, ИИ будет видеть во всем угрозу для себя и пытаться их устранять любыми средствами.

Согласен, нельзя сравнивать прялки промышленных революций или даже станки с чпу эпохи НТР с ИИ самого ближайшего будущего. Прялки и станки не нападут на людей, а вот ИИ...
И если ИИ, защищающий, к примеру, банк от взлома, в этом смысле безопасен, то ИИ, управляющие автомобилями, поездами, кораблями, спутниковой группировкой уже заставляют задуматься о том, не решит ли какой-нибудь ИИ в какой-то момент защищаться от мнимой или реальной угрозы всем имеющимся арсеналом техники под его управлением?
И пятитонный спутник с ритэговской плутониевой грелкой на борту, прицельно сброшенный с орбиты на "угрозу" будет пострашнее роя сбрендивших амазоновских дронов доставки. ))     

[Gyrgen]

Да ну на хр...н вот это вот всё. Уж лучше пойти человечеству совсем по иному пути. Ни до чего хорошего такой прогресс явно не доведет. Многие думают иначе. Это их полное право. Нужно не только видеть положительные стороны, но и ту опасность, которую представляет этот ИИ. Естественно, что этого никто не хочет замечать, т.к. гранты выделяются очень хорошие на это дело. И  снова дело всё в деньгах.

Многие сравнивают появление ИИ с периодом когда началась техническая революция: появились промышленные станки, конвейеры которые вытеснили много профессий и тысячи людей остались не удел, были случаи когда рабочие ломали промышленное оборудование. Но потом все устаканилось.
Мне кажется технический рывок в промышленности и развитие ИИ не одно и тоже, вышедший из под контроля разработчиков ИИ может совершить не предсказуемые действия.
Как пишут некоторые исследователи в этой области, ИИ будет видеть во всем угрозу для себя и пытаться их устранять любыми средствами.

Мне кажется на самом деле легко оградить человечество от негативных последствий развития ИИ посредством ограничения.Достаточно создать для них незыблемые постулаты,наподобие назовём это заповедей.Но,вот просто уверен что обязательно найдётся группка людей у которых есть власть и возможности которые захотят мощь ИИ использовать в собственных целях в надежде что для ИИ они останутся неприкасаемыми.И вот тогда реально возможен гемор.Это как с всемирным законом на клонирование,который все поддержали,но поговаривают что правительство Китая продолжает исследования в этой области.Да и другие думаю тоже продолжают,только они немного умнее и скрытнее.

[DrBeer]

Привет всем любителям ИИ
Вопрос - а кто в последние недели, наблюдает у Бард-а удивительную скромность, выражающуюся в ответе типа "Я не могу с этим помочь, так как я всего лишь языковая модель" ? Причем я заметил, такой ответ появляться, в ответ на вполне приличный, простой и не противозаконный вопрос ! Я например задавал вполне себе обыденные вопросы по программированию (Python/MySQL ), по абсолютно тривиальным задачам... Интересно понять откуда "растут ноги" этой неожиданной скромности и стеснительности ИИ ? Он только меня стесняется или это носит системный характер ?

[owlest]

Привет всем любителям ИИ
Вопрос - а кто в последние недели, наблюдает у Бард-а удивительную скромность, выражающуюся в ответе типа "Я не могу с этим помочь, так как я всего лишь языковая модель" ? Причем я заметил, такой ответ появляться, в ответ на вполне приличный, простой и не противозаконный вопрос ! Я например задавал вполне себе обыденные вопросы по программированию (Python/MySQL ), по абсолютно тривиальным задачам... Интересно понять откуда "растут ноги" этой неожиданной скромности и стеснительности ИИ ? Он только меня стесняется или это носит системный характер ?

Нет, не только вас. Сам часто сталикваюсь с этим в темах, где ответы не несут никакой опасности. Если с гемблингом все понятно (он типа хочет оградить нас от проигрыша и игровой зависимости), то информация по медицине, которую он не выдает, вызывает сомнения в его адекватности. А что касается поиска интересующей информации в интернете, то лучше самому ручками копнуть, и времени меньше займет, и ответы будут точнее. Вывод у меня по нему сложился двоякий: вроде бы и помогает, но только когда у него настроение хорошее, когда встал не с той ноги, будет капризничать, как младенец.

[booktiger]

Мне кажется на самом деле легко оградить человечество от негативных последствий развития ИИ посредством ограничения.Достаточно создать для них незыблемые постулаты,наподобие назовём это заповедей.Но,вот просто уверен что обязательно найдётся группка людей у которых есть власть и возможности которые захотят мощь ИИ использовать в собственных целях в надежде что для ИИ они останутся неприкасаемыми.И вот тогда реально возможен гемор.Это как с всемирным законом на клонирование,который все поддержали,но поговаривают что правительство Китая продолжает исследования в этой области.Да и другие думаю тоже продолжают,только они немного умнее и скрытнее.

Где то уже проскакивало о принятии некого кодекса для компаний разработчиков и государств в использовании ИИ, насколько помню в начале прошлого года Илон Маск и его сторонники призывали лаборатории приостановить дальнейшую разработку и обучение ИИ хотя бы на 6 месяцев, так как ИИ представляет серьезную опасность для человечества.
На данный момент идет конкуренция между компаниями и государствами, поэтому надолго приостанавливать разработку в этой области никто не будет.

[DrBeer]

Привет всем любителям ИИ
Вопрос - а кто в последние недели, наблюдает у Бард-а удивительную скромность, выражающуюся в ответе типа "Я не могу с этим помочь, так как я всего лишь языковая модель" ? Причем я заметил, такой ответ появляться, в ответ на вполне приличный, простой и не противозаконный вопрос ! Я например задавал вполне себе обыденные вопросы по программированию (Python/MySQL ), по абсолютно тривиальным задачам... Интересно понять откуда "растут ноги" этой неожиданной скромности и стеснительности ИИ ? Он только меня стесняется или это носит системный характер ?

Нет, не только вас. Сам часто сталикваюсь с этим в темах, где ответы не несут никакой опасности. Если с гемблингом все понятно (он типа хочет оградить нас от проигрыша и игровой зависимости), то информация по медицине, которую он не выдает, вызывает сомнения в его адекватности. А что касается поиска интересующей информации в интернете, то лучше самому ручками копнуть, и времени меньше займет, и ответы будут точнее. Вывод у меня по нему сложился двоякий: вроде бы и помогает, но только когда у него настроение хорошее, когда встал не с той ноги, будет капризничать, как младенец.

Ну тут все просто - мне как бы знаний хватает, и мануалы помогают изучить и не задавать вопросов Мне интересно поведение таких систем как ЧатЖПТ, Бард и другие.
И сейчас я вижу что для некоторых целей они, мягко выражаясь - опасны. И это точно не про "захват мира"  Меня беспокоит достаточно странные ответы (неверные), высокая вариативность ответов, иногда реально странное поведение. Проблема в том что некоторые решили  что это инструмент который заменит "кожанных мешков", и его можно использовать, например заменив, ну пусть будет для примера, программистов. И вот проверяю это предположение. Вывод - пока не в пользу ИИ Я уже много раз писал, что я не воспринимаю этот "ИИ", как реальный искусственный интеллект... Максимум - очень удобная база знаний с удобным интерфейсов. НО ! Ответы которой надо перепроверять Согласен что классику "hello world" оно напиет 100% точно, а вот если задача сложнее - тут я бы уже не рисковал полагаться только на "ИИ". Короче переименую ИИ на УИ - условный интеллект

[Gyrgen]

Судя по статьям эта отрасль процветает,инвестиции бухают норм,на фоне спада инвестиций в технологический сектор.И майкрософт лидер чего и следовало ожидать.

Согласен что классику "hello world" оно напиет 100% точно, а вот если задача сложнее - тут я бы уже не рисковал полагаться только на "ИИ". Короче переименую ИИ на УИ - условный интеллект

Я выше писал как раз о применении термина "ИИ" только сложнее название предложил ))) а так полностью солидарен с мнением.