Искусственный интеллект

[heyod hewow]

Но можно оставить некий вариант, что он просто знает о новых технологиях, которые пока не известны массам, и разрабатываются в "темных лабораториях коварных ученых

Не, в этот вариант я не верю. Типа какой-то инфоцыган  как-то прознал, что происходит в "темных лабораториях коварных ученых" и тут же решил рассказать "городу и миру", чтобы, значицца, вывести злодеев на чистую воду. 
Уж больно это напоминает стандартные заголовки желтой прессы, типа "час назад состоялось совершенно секретное заседание Кабинета Его Темнейшества, где обсудили такие-то вопросы и были приняты такие-то решения..." 

[owlest]

Человек и правда сам себе является врагом, который только и делает, что ищет пути для своего уничтожения. Нет бы начать созидать и т.д., но нет же, лучше отложить такие вопросы в дальний угол. Могу с уверенностью сказать о том, что кому-то это приносит удовлетворение. Наблюдая за тем, как многие страдают, ему приносит то чрезмерное удовольствие.

Совершенно верно, я сразу вспоминаю высказывание, что деньги делаются на созидании, а большие деньги — на разрушении, тем более, тут не нужно много ума. Как видим, последний вариант привлекательнее для человека, поэтому я иногда задаюсь вопросом: а может все же лучше дружить с ИИ? Но понимая, что это неизведанное виртуальное сознание, я сторонюсь как от людей, так и ИИ.

[fgh]

Человек и правда сам себе является врагом, который только и делает, что ищет пути для своего уничтожения. Нет бы начать созидать и т.д., но нет же, лучше отложить такие вопросы в дальний угол. Могу с уверенностью сказать о том, что кому-то это приносит удовлетворение. Наблюдая за тем, как многие страдают, ему приносит то чрезмерное удовольствие.

Совершенно верно, я сразу вспоминаю высказывание, что деньги делаются на созидании, а большие деньги — на разрушении, тем более, тут не нужно много ума. Как видим, последний вариант привлекательнее для человека, поэтому я иногда задаюсь вопросом: а может все же лучше дружить с ИИ? Но понимая, что это неизведанное виртуальное сознание, я сторонюсь как от людей, так и ИИ.

Сейчас нет никаких юридических ограничений для развития ИИ и скорее всего долго не будет. Но рано или поздно придётся этот вопрос поднимать и тщательно его прорабатывать. А то ведь под радостные крики "Ура! Инновации!" и прочий оптимистический идиотизм могут разработать легальных убийц человеков под прикрытием заботы о неразумных людях.
   

[bitbit97]

Сейчас нет никаких юридических ограничений для развития ИИ и скорее всего долго не будет. Но рано или поздно придётся этот вопрос поднимать и тщательно его прорабатывать. А то ведь под радостные крики "Ура! Инновации!" и прочий оптимистический идиотизм могут разработать легальных убийц человеков под прикрытием заботы о неразумных людях.

В книге детективе Джона Маррса "Пассажиры", ИИ управлял электромашинами и в его коде секретно был прописан алгоритм действий. Одна из тем книги такова, что все устройства везде отслеживают жизнь человека. И в дальнейшем, например при ситуации, когда на дорогу выбежал человек, ИИ, оценив выбежавшего и водителя (по факту пассажира, тк руля или иных органов управления транспортом нет), выбирает, сбить выбежавшего, или сделать маневр, который может привезти в смерти или травме водителя (например дернуться в припаркованную машину). Те если переходит дворник, а за рулем хирург, то машина едет в дворника. Если наоборот, то маневрирует так, чтобы выжил выбежавший хирург.

Решение принимается беря во внимание все: камеры, соц сети, смарт часы (оценивает состояние здоровья например), поведение. И вся эта тема кстати была продвинута под соусом "Ура! Инновации!". Уволим водителей, но создадим другие места, инфраструктуру, положим асфальт, разгрузим город от транспорта. Те общественность была не особо против таких машин и ИИ.

П.С. Правда книга про то, что хакер взламывает доступ к ИИ и рассказывает общественности об алгоритме.

[DrBeer]

Но можно оставить некий вариант, что он просто знает о новых технологиях, которые пока не известны массам, и разрабатываются в "темных лабораториях коварных ученых

Не, в этот вариант я не верю. Типа какой-то инфоцыган  как-то прознал, что происходит в "темных лабораториях коварных ученых" и тут же решил рассказать "городу и миру", чтобы, значицца, вывести злодеев на чистую воду. 
Уж больно это напоминает стандартные заголовки желтой прессы, типа "час назад состоялось совершенно секретное заседание Кабинета Его Темнейшества, где обсудили такие-то вопросы и были приняты такие-то решения..." 

Соглашусь Версия более чем  реалистичная. Но нельзя не оставить небольшой вероятности что он все же знает чуть больше нас в данной тематике, и вероятно не понаслышке знает как движется развитие данной технологии...
ПС Что меня удивило - в его прогнозах о "сознании ИИ" не было темы "ой все это писец писец", он как раз высказал мнение, что , по его мнению, это не будет "агрессивной сущностью".. Хотя аргументов я тоже не услышал

[fruktik]

Совершенно верно, я сразу вспоминаю высказывание, что деньги делаются на созидании, а большие деньги — на разрушении, тем более, тут не нужно много ума. Как видим, последний вариант привлекательнее для человека, поэтому я иногда задаюсь вопросом: а может все же лучше дружить с ИИ? Но понимая, что это неизведанное виртуальное сознание, я сторонюсь как от людей, так и ИИ.

Как бы то не было, но всё равно в голове крутится крылатая фраза: "Славик, чё-то я очкую". Не нравится от слова совсем, когда развитие ИИ идет неподконтрольным образом. Нельзя идти по такому пути. Тут и дураку понятно, что это представляет серьезную опасность для всего человечества и всего живого на планете. Уже сейчас пора задуматься о том, чтобы прописать ряд жестких законов.

[bitbit97]

Есть ли доказанные случаи, когда текущий недоИИ нанес какой-то вред человеку? Не вред по типу ИИ имитировал голос, я перевела деньги мошеннику, подумав что это родственник просит или вложилась куда-то, и по этому нет денег на лекарство. А например, специально выдал данные во время операции, что привело к ухудшению здоровья или смерти. Или пока что злой ИИ выжидает и накапливает силы?

[DrBeer]

Есть ли доказанные случаи, когда текущий недоИИ нанес какой-то вред человеку? Не вред по типу ИИ имитировал голос, я перевела деньги мошеннику, подумав что это родственник просит или вложилась куда-то, и по этому нет денег на лекарство. А например, специально выдал данные во время операции, что привело к ухудшению здоровья или смерти. Или пока что злой ИИ выжидает и накапливает силы?

Сам "ИИ" не может нанести вред, так как он осмысленно не предпринимает каких либо действий. Можно нанести вред человеку, если его не правильно использовать. Это относится ко всем неодушевленным предметам, которые сами не могут ничего сделать, а могут лишь причинить вред либо тому кто им неправильно пользуется либо сторонним людям изза того что кто то его не правильно использует.
ПС Чисто теоретически конечно может еще ненести моральную травму, например из за мыслей что он тебя заменит на работе

[heyod hewow]

Есть ли доказанные случаи, когда текущий недоИИ нанес какой-то вред человеку?

По памяти сразу вот это всплыло:
Семья из Британии отравилась грибами, купив пособие для начинающих грибников, не зная, что книгу написала нейросеть
Семья из Британии отравилась грибами из-за информации от ChatGPT. Пострадавшие купили на Amazon недорогое пособие для начинающих грибников, не зная, что текст и картинки в книге создала нейросеть.

«На прошлой неделе вся моя семья лежала в больнице после того, как случайно употребила ядовитые грибы. Моя жена купила книгу в крупном интернет-магазине на мой день рождения. Книга называется примерно так: «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов». В нее включены фотографии грибов, которые помогут идентифицировать каждый из них.

Вот доказанный случай. Вред налицо. Кожаные мешки поели рекомендованных ИИ грибочков и чуть ласты не склеили.
Понятно, что у ИИ не было "злого умысла", поскольку ИИ - не сущность, "это" не мыслит и поэтому ни злоумышлять, ни добромыслить не сможет чисто технически, а просто ведро с болтами галлюцинирует и генерит случайные кортинко с грибами, а мешки поверили, не проверили, собрали и поели. 

[bitbit97]

ИИ ведь применим в здравоохранении. Он не может (особенно после постов тут, видя что мы его разоблачили) фальсифицирую результаты анализов убедить докторов осуществить операцию по удалению глад ректальным способом?

Это конечно все шутки, но посмотрев сферы применения ИИ в википедии (https://en.wikipedia.org/wiki/Applications_of_artificial_intelligence), вариантов пакостить у него много.

Есть ли доказанные случаи, когда текущий недоИИ нанес какой-то вред человеку?

По памяти сразу вот это всплыло:
Семья из Британии отравилась грибами, купив пособие для начинающих грибников, не зная, что книгу написала нейросеть

Вот, отличный пример. Подобного контекста, созданного без какой-либо проверки на факты и тд, полно.

[owlest]

Сейчас нет никаких юридических ограничений для развития ИИ и скорее всего долго не будет. Но рано или поздно придётся этот вопрос поднимать и тщательно его прорабатывать. А то ведь под радостные крики "Ура! Инновации!" и прочий оптимистический идиотизм могут разработать легальных убийц человеков под прикрытием заботы о неразумных людях.
 

"Ура! Инновации!" уже есть, причем как вы и сказали, идут они только во вред нормальному человеку. Взять тот же CBDC, знаю людей, которые с восторгом это воспринимают, мол, отсутствие бумажек и железяк в кармане — это только плюс. Но им же никто не говорит, что эти самые цифровые активы полностью подконтрольны тем, кто их выпустил: малейшее нарушение законов, которые опять таки направлены против людей, приведет к блокировке кошелька. Была бы наличка, вытянул бы из под одеяла, и плевал бы на всех, а так хрен нам.

По памяти сразу вот это всплыло:
Семья из Британии отравилась грибами, купив пособие для начинающих грибников, не зная, что книгу написала нейросеть

А много ли кто проверяет инфу, созданную ИИ? Есть даже блогеры, которые обращаются за инфой к нему, а потом без проверки выкладывают. Я вообще думаю, что чем жестче инфа от жпт, тем больше поклонников)))

[DrBeer]

А много ли кто проверяет инфу, созданную ИИ? Есть даже блогеры, которые обращаются за инфой к нему, а потом без проверки выкладывают. Я вообще думаю, что чем жестче инфа от жпт, тем больше поклонников)))

А нафига проверять ? Надо больше жести, надо больше трешняка лютого ! Пиплу надо зрелищ, даже больше хлеба ! Пипл тянется на "сенсации", "открытия", "новости" от которых волосы по всему телу начинают шевелиться. Земля плоская, вот вам профессор, который лично знает про мировой заговор рептилоидов, ему про это гитлер в бразилии рассказал, еще когда там в лесах ходили динозавры, ну вобщемто он на них к нему в гости и ехал по тоннелям прокопанным анннанербе на северном полюсе при помощи красной рути и технологий пришельцев Кому интересно как работает сверточная нейронная сеть или каков прогноз деградация ИИ ? Муть какаято, а там про рептилоидов ! 

[DrBeer]

Есть ли доказанные случаи, когда текущий недоИИ нанес какой-то вред человеку?

По памяти сразу вот это всплыло:
Семья из Британии отравилась грибами, купив пособие для начинающих грибников, не зная, что книгу написала нейросеть
Семья из Британии отравилась грибами из-за информации от ChatGPT. Пострадавшие купили на Amazon недорогое пособие для начинающих грибников, не зная, что текст и картинки в книге создала нейросеть.

«На прошлой неделе вся моя семья лежала в больнице после того, как случайно употребила ядовитые грибы. Моя жена купила книгу в крупном интернет-магазине на мой день рождения. Книга называется примерно так: «Грибы Великобритании: руководство по сбору безопасных и съедобных грибов». В нее включены фотографии грибов, которые помогут идентифицировать каждый из них.

Вот доказанный случай. Вред налицо. Кожаные мешки поели рекомендованных ИИ грибочков и чуть ласты не склеили.
Понятно, что у ИИ не было "злого умысла", поскольку ИИ - не сущность, "это" не мыслит и поэтому ни злоумышлять, ни добромыслить не сможет чисто технически, а просто ведро с болтами галлюцинирует и генерит случайные кортинко с грибами, а мешки поверили, не проверили, собрали и поели. 

А это все почему ? Потому что ктото в интернетах написал что все грибы сьедобные, только некоторые один раз И он изучив это, он написал то что его попросили, но кожанные мешки забыли сказать - напиши мануал для тех кто хочет собрать и есть грибы более 1 раза 

[fruktik]

Есть ли доказанные случаи, когда текущий недоИИ нанес какой-то вред человеку? Не вред по типу ИИ имитировал голос, я перевела деньги мошеннику, подумав что это родственник просит или вложилась куда-то, и по этому нет денег на лекарство. А например, специально выдал данные во время операции, что привело к ухудшению здоровья или смерти. Или пока что злой ИИ выжидает и накапливает силы?

Всему своё время. Если сейчас нет никаких особых случаев, когда ИИ причинил вред человеку, то это совсем не значит, что этого не будет через несколько лет. Все же есть развитие в этом направлении и никто с этим не спорит. Да, на сегодняшний день мы видим нечто подобное тому, что нам представили в фильме "Терминатор". Я бы не был так уверен в примитивности ИИ.

[fgh]

А это все почему ? Потому что ктото в интернетах написал что все грибы сьедобные, только некоторые один раз И он изучив это, он написал то что его попросили, но кожанные мешки забыли сказать - напиши мануал для тех кто хочет собрать и есть грибы более 1 раза 

Ну ты жжёшь. Сейчас бы по новой моде написали бы про "отрицательную съедобность". А ИИ написал что грибы - съедобные, но забыл добавить, что съедобность у них отрицательная).
А если быть предельно точным, то съёдобность у них тоже положительная, а вот выживаемость после съедения -  отрицательная.