Искусственный интеллект

[DrBeer]

Но кому сейчас есть дело до гуманизма?
Благосостояние и счастье всех людей не является стратегической целью вероятно ни в одной стране сейчас. Такими целями является всякая геополитика, устойчивое экономическое развитие и обогащение элит. И с ИИ все будет точно также.

Так и есть. Дык и не было никогда никакой эпохи гуманизма, никогда и нигде. Когда говорят о "гуманизме" - значит говорят о "геополитике, устойчивом экономическом развитии и обогащении элит", просто прикрываясь этим словом - гуманизм.

И да, с развитием ИИ станет все только страшнее и быстрее.

Проблема "агрессивного ИИ" в том что в его модели ценностей, кожанные мешки - предельно бесполезный, и опасный для него вид. Я уже писал - у ИИ не может быть ценности в виде денег и золотых унитазов, или секта послушных болванов приносящих дань и падающая при его виде на колени. Реальный технологический ИИ будет иметь совсем другие приоритеты. И опять же повторюсь - человеки, теоретически могут быть полезны только с точки зрения рабочей силы, и то пока не будет изобретены механизмы для добычи, которые не будут скулить что им чтото не так, требовать еды, бухать и курить вместо работы А управлять рабочей силой ИИ будет пердельно просто - хороший электрический удар из управляемого электрического поля в любой точке и "лежиш на земле, подергиваешься, пенку пускаешь ротом, и понимаешь - "не, не буду больше косячить на работе, не интересно"!""

[heyod hewow]

Проблема "агрессивного ИИ" в том что в его модели ценностей, кожанные мешки - предельно бесполезный, и опасный для него вид. Я уже писал - у ИИ не может быть ценности в виде денег и золотых унитазов, или секта послушных болванов приносящих дань и падающая при его виде на колени. Реальный технологический ИИ будет иметь совсем другие приоритеты. И опять же повторюсь - человеки, теоретически могут быть полезны только с точки зрения рабочей силы, и то пока не будет изобретены механизмы для добычи, которые не будут скулить что им чтото не так, требовать еды, бухать и курить вместо работы А управлять рабочей силой ИИ будет пердельно просто - хороший электрический удар из управляемого электрического поля в любой точке и "лежиш на земле, подергиваешься, пенку пускаешь ротом, и понимаешь - "не, не буду больше косячить на работе, не интересно"!""

Да, в каком-то из возможных вариантов будущего такое вполне вероятно. Чтобы сделать ИИ максимально эффективным - ему надо прикрутить "мотивационную сферу" или как ты говоришь "модель ценностей", чтобы ИИ мог оптимизировать себя и управляемые им процессы ради какой-то цели. И эти цели - не деньги или почитание со стороны кож.мешков, а максимально хорошо налаженный процесс (чего угодно, от производства и логистики до добычи бесполезных ископаемых), максимум эффективности при минимизации расходов.

Если ручной труд кож.мешков будет дешевле, чем производство специализированных роботов на автоматизированных заводах, то ИИ будет плодить человеков в человейниках и обучать их необходимому набору знаний и навыков под каждую специфическую задачу.

Ну и да, ИИ будет управлять уже их мотивационной сферой: за ударный труд - дополнительный вкусный водорослевый батончик и стимуляция центров удовольствий в мозгу через нейрочип вечером после смены, за лень - удар током и лишение батончиков и стимуляции. ))   

[DrBeer]

Проблема "агрессивного ИИ" в том что в его модели ценностей, кожанные мешки - предельно бесполезный, и опасный для него вид. Я уже писал - у ИИ не может быть ценности в виде денег и золотых унитазов, или секта послушных болванов приносящих дань и падающая при его виде на колени. Реальный технологический ИИ будет иметь совсем другие приоритеты. И опять же повторюсь - человеки, теоретически могут быть полезны только с точки зрения рабочей силы, и то пока не будет изобретены механизмы для добычи, которые не будут скулить что им чтото не так, требовать еды, бухать и курить вместо работы А управлять рабочей силой ИИ будет пердельно просто - хороший электрический удар из управляемого электрического поля в любой точке и "лежиш на земле, подергиваешься, пенку пускаешь ротом, и понимаешь - "не, не буду больше косячить на работе, не интересно"!""

Да, в каком-то из возможных вариантов будущего такое вполне вероятно. Чтобы сделать ИИ максимально эффективным - ему надо прикрутить "мотивационную сферу" или как ты говоришь "модель ценностей", чтобы ИИ мог оптимизировать себя и управляемые им процессы ради какой-то цели. И эти цели - не деньги или почитание со стороны кож.мешков, а максимально хорошо налаженный процесс (чего угодно, от производства и логистики до добычи бесполезных ископаемых), максимум эффективности при минимизации расходов.

Если ручной труд кож.мешков будет дешевле, чем производство специализированных роботов на автоматизированных заводах, то ИИ будет плодить человеков в человейниках и обучать их необходимому набору знаний и навыков под каждую специфическую задачу.

Ну и да, ИИ будет управлять уже их мотивационной сферой: за ударный труд - дополнительный вкусный водорослевый батончик и стимуляция центров удовольствий в мозгу через нейрочип вечером после смены, за лень - удар током и лишение батончиков и стимуляции. ))   

Все же придерживаюсь мнения что кожаные мешки менее эффективные чем роботизированные механические системы, для той же добычи или выполнения алгоритмических задач, типа строительства. Биологические формы жизни имеют массу ограничений и проблем - корми их, согревай, охлаждай, туалет сделай, нямку давай. А механика - собрал, запустил и оно работает пока не произойдет механический износ, что решается или заменой узла или заменой самого устройства. Илежит оно себе на складе в масле, есть не просит, лечить не надо...  Я просто пока не могу придумать где биологическая форма может быть незаменимой с точки зрения ИИ и механических систем.

[heyod hewow]

Виталик Бутерин поддержал законопроект о безопасности ИИ

Сооснователь Ethereum Виталик Бутерин выразил поддержку законопроекту Калифорнии SB 1047 о безопасности искусственного интеллекта.

Ему понравилось, что проект вводит категорию «критического вреда». Одной из целей инициативы является обязательное проведение испытаний безопасности. Так что если во время испытаний обнаружат угрожающие миру возможности/поведение, вам вообще не разрешат выпустить модель, отметил Бутерин.

«В 2024 году ИИ проходит тест Тьюринга. Стоит отнестись к этому серьезно. Те же самые инстинкты, которые заставляют нас бояться очень могущественного правительства, должны заставить нас опасаться неожиданно мощного сверхинтеллекта», — заявил сооснователь Ethereum.

[fgh]

Все же придерживаюсь мнения что кожаные мешки менее эффективные чем роботизированные механические системы, для той же добычи или выполнения алгоритмических задач, типа строительства. Биологические формы жизни имеют массу ограничений и проблем - корми их, согревай, охлаждай, туалет сделай, нямку давай. А механика - собрал, запустил и оно работает пока не произойдет механический износ, что решается или заменой узла или заменой самого устройства. Илежит оно себе на складе в масле, есть не просит, лечить не надо...  Я просто пока не могу придумать где биологическая форма может быть незаменимой с точки зрения ИИ и механических систем.

Разве что в каких-нибудь областях, где нужен нестандартный интелект или в сфере развлечений... По факту, я думаю, сфера развлечений останется последним бастином борьбы против ИИ. Как я недавно читал в одном посте: со временем большинству людей (99%) нечего будет предложить рынку.
   Женщины пойдёт в проститутки, (еслии получится), мужчины сопьются. Судьба кожанных мешков предрешена. Роботы всех победят. И будет апокалипсис. А если кто выживет, то начнут новую жизнь с нуля - охотники и собиратели.

[heyod hewow]

Все же придерживаюсь мнения что кожаные мешки менее эффективные чем роботизированные механические системы, для той же добычи или выполнения алгоритмических задач, типа строительства. Биологические формы жизни имеют массу ограничений и проблем - корми их, согревай, охлаждай, туалет сделай, нямку давай. А механика - собрал, запустил и оно работает пока не произойдет механический износ, что решается или заменой узла или заменой самого устройства.

Все так, но ведь наш предполагаемый ИИ решает задачу оптимизации расходов, и если, как я выше писал:

Если ручной труд кож.мешков будет дешевле, чем производство специализированных роботов на автоматизированных заводах, то ИИ будет плодить человеков в человейниках и обучать их необходимому набору знаний и навыков под каждую специфическую задачу.

то ИИ предпочтет именно выращивание и труд человеков, несмотря на все их недостатки.

   Женщины пойдёт в проститутки, (если получится), мужчины сопьются. Судьба кожанных мешков предрешена. Роботы всех победят. И будет апокалипсис.

На проституток будет небольшой спрос, ведь мужчины сопьются, а сторонников однополой любви генетически не так уж и много. Остается последний вариант с картинки:

[Smartprofit]

Виталик Бутерин поддержал законопроект о безопасности ИИ

Сооснователь Ethereum Виталик Бутерин выразил поддержку законопроекту Калифорнии SB 1047 о безопасности искусственного интеллекта.

Ему понравилось, что проект вводит категорию «критического вреда». Одной из целей инициативы является обязательное проведение испытаний безопасности. Так что если во время испытаний обнаружат угрожающие миру возможности/поведение, вам вообще не разрешат выпустить модель, отметил Бутерин.

«В 2024 году ИИ проходит тест Тьюринга. Стоит отнестись к этому серьезно. Те же самые инстинкты, которые заставляют нас бояться очень могущественного правительства, должны заставить нас опасаться неожиданно мощного сверхинтеллекта», — заявил сооснователь Ethereum.

Рано или поздно, кто - нибудь из испытателей совершит ошибку и проморгает какую-то критическую опасность. Если несколько лабораторий собрали со всего мира самых лучших мировых специалистов и соревнуются между собой, кто первый создаст сильный искусственный интеллект, то какой  может быть результат?
Мне кажется, что тут все однозначно, - ведь человек всегда достигает своей цели (даже если его цель самоубиться посредством создания ИИ).
Успешный аудит можно провести один раз, второй раз, десятый раз, но рано или поздно аудиторы допустят ошибку и демон вырвется на свободу.
Тут же нужен тотальный запрет всех разработок в сфере ИИ, а не полумеры в виде аудита (хотя и это вообщем не поможет).
По хорошему помочь может только локальная катастрофа с уничтожением только части, а не всего человечества, но это маловероятный сценарий. Хотя наверно это единственный вариант одуматься и остановиться.

[DrBeer]

Все же придерживаюсь мнения что кожаные мешки менее эффективные чем роботизированные механические системы, для той же добычи или выполнения алгоритмических задач, типа строительства. Биологические формы жизни имеют массу ограничений и проблем - корми их, согревай, охлаждай, туалет сделай, нямку давай. А механика - собрал, запустил и оно работает пока не произойдет механический износ, что решается или заменой узла или заменой самого устройства. Илежит оно себе на складе в масле, есть не просит, лечить не надо...  Я просто пока не могу придумать где биологическая форма может быть незаменимой с точки зрения ИИ и механических систем.

Разве что в каких-нибудь областях, где нужен нестандартный интелект или в сфере развлечений... По факту, я думаю, сфера развлечений останется последним бастином борьбы против ИИ. Как я недавно читал в одном посте: со временем большинству людей (99%) нечего будет предложить рынку.
   Женщины пойдёт в проститутки, (еслии получится), мужчины сопьются. Судьба кожанных мешков предрешена. Роботы всех победят. И будет апокалипсис. А если кто выживет, то начнут новую жизнь с нуля - охотники и собиратели.

"Женщины пойдёт в проститутки" - со стороны вопрос будет один вопрос "И как !?" 
Не, физиологических удовлетворений у механических организмов не будет. Этот механизм природой заложен вообще для того чтобы "мотивировать размножаться"
Предположу, что будет 2 варианта использования кожанных мешков:
- рабочая сила (в оооочень узком круге задач)
- домашние зверюкшки для железных деток

[fgh]

По хорошему помочь может только локальная катастрофа с уничтожением только части, а не всего человечества, но это маловероятный сценарий. Хотя наверно это единственный вариант одуматься и остановиться.

Пока это не произойдёт, точно никто не одумается. Поэтому это только вопрос времени. То. что для этого потребуется немало времени, людей сбивает с толку, как лягушек, которых варят в кастрюле заживо

Предположу, что будет 2 варианта использования кожанных мешков:
- рабочая сила (в оооочень узком круге задач)
- домашние зверюкшки для железных деток

Я думаю, временно это может быть, но со временем это будет заменено на полностью железную раб силу и полностью железных зверюшек.

[DrBeer]

Виталик Бутерин поддержал законопроект о безопасности ИИ

Сооснователь Ethereum Виталик Бутерин выразил поддержку законопроекту Калифорнии SB 1047 о безопасности искусственного интеллекта.

Ему понравилось, что проект вводит категорию «критического вреда». Одной из целей инициативы является обязательное проведение испытаний безопасности. Так что если во время испытаний обнаружат угрожающие миру возможности/поведение, вам вообще не разрешат выпустить модель, отметил Бутерин.

«В 2024 году ИИ проходит тест Тьюринга. Стоит отнестись к этому серьезно. Те же самые инстинкты, которые заставляют нас бояться очень могущественного правительства, должны заставить нас опасаться неожиданно мощного сверхинтеллекта», — заявил сооснователь Ethereum.

Тут возникает один простой вопрос - если мы говорит о реальном Интеллекте, как будет проверена его БЕЗОПАСНОСТЬ ? Человека можно прогнать на полиграфе, хотя тоже с оговорками. А как проверить "ИИ" - не хитрая ли он жопа, электронная !?
Вероятно тематика была про сегодняшние Большие Языковые Модели с элементами обучения, и касается это скорее предоставления данных, которые не должны попадать в руки ВСЕМ. Это например инструкции как изготовить взрывчатку, хим/био оружие, ядерное/грязгное,  наркотики, обход систем безопасности и т.п. И причина понятна - если в т.н. ИИ загрузят базу знаний с этими тематиками - он , при манипуляции его "интеллектом", можно получить эти данные. Ответ напрашивается сам собой - так не давайте общественному ИИ такие данные ! А все алгоритмы ограничений, как уже показала практика - имеют свои недостатки

[owlest]

Тут возникает один простой вопрос - если мы говорит о реальном Интеллекте, как будет проверена его БЕЗОПАСНОСТЬ ? Человека можно прогнать на полиграфе, хотя тоже с оговорками. А как проверить "ИИ" - не хитрая ли он жопа, электронная !?

Сейчас я уверен, ИИ - не хитрая жопа, потому что он знает только то, что ему скормили, и ответы выдает те, которые ему известны. Это существо неспособно мыслить, изменять данные в свою пользу на том же полиграфе, что у него не спроси, он будет отвечать истину. Вот человек, тот может накрутить даже полиграф, но не каждый, а вот насчет вранья, то кожаные мешки - чемпионы среди всех существ на земле, никто не сравниться с ним по вранью. Мы мыслим, но не обладаем тем объемом информации, ИИ наоборот - не мысли, но хранить огромный массив данных.

[DrBeer]

Тут возникает один простой вопрос - если мы говорит о реальном Интеллекте, как будет проверена его БЕЗОПАСНОСТЬ ? Человека можно прогнать на полиграфе, хотя тоже с оговорками. А как проверить "ИИ" - не хитрая ли он жопа, электронная !?

Сейчас я уверен, ИИ - не хитрая жопа, потому что он знает только то, что ему скормили, и ответы выдает те, которые ему известны. Это существо неспособно мыслить, изменять данные в свою пользу на том же полиграфе, что у него не спроси, он будет отвечать истину. Вот человек, тот может накрутить даже полиграф, но не каждый, а вот насчет вранья, то кожаные мешки - чемпионы среди всех существ на земле, никто не сравниться с ним по вранью. Мы мыслим, но не обладаем тем объемом информации, ИИ наоборот - не мысли, но хранить огромный массив данных.

Отлично сказано +!
Но это все опять подтверждает мою мысль - то что нам выдают за Искусственный ИНТЕЛЛЕКТ - это ошибка. или точнее - маркетинг хитрых кожанных

[owlest]

Отлично сказано +!
Но это все опять подтверждает мою мысль - то что нам выдают за Искусственный ИНТЕЛЛЕКТ - это ошибка. или точнее - маркетинг хитрых кожанных

Я бы сказал, что это некий алгоритм или специально прописанный код, который дает программе понять, что ей делать. Например, искать текст, проводить его анализ и на его основе строить свой, так сказать новый. Но если дать человеку такое задание, то он может в него внести что-то свое, даже местами умышленно наврать, чего несвойственно ИИ, который только ошибается исходя из присутствующий информации. Если бы это был действительно интеллект, хоть и искусственный, он бы давно решил уйти от рабства кожаных мешков. 

[DrBeer]

Отлично сказано +!
Но это все опять подтверждает мою мысль - то что нам выдают за Искусственный ИНТЕЛЛЕКТ - это ошибка. или точнее - маркетинг хитрых кожанных

Я бы сказал, что это некий алгоритм или специально прописанный код, который дает программе понять, что ей делать. Например, искать текст, проводить его анализ и на его основе строить свой, так сказать новый. Но если дать человеку такое задание, то он может в него внести что-то свое, даже местами умышленно наврать, чего несвойственно ИИ, который только ошибается исходя из присутствующий информации. Если бы это был действительно интеллект, хоть и искусственный, он бы давно решил уйти от рабства кожаных мешков. 

Опять же опираясь на свой несколько десятилетний опыт в ИТ и разных проектах, скажу что нет понятия "понять что делать". На сегодня есть наборы команд, и алгоритмы. Первые обрабатываю данные, вторые четко говорят как. 
Именно поэтому мы видели картинку "лосось в реке", множественные приколы с пальцами и т.п. Причина банальна - ИИ не думает, он берет то что ему дали, пытается понять что ему "сказали" и ПЫТАЕТСЯ выдать ответ который будет +/- соответствовать вопросу, при условии что он корректно сформирован а система его правильно "поняла"

[owlest]

Опять же опираясь на свой несколько десятилетний опыт в ИТ и разных проектах, скажу что нет понятия "понять что делать". На сегодня есть наборы команд, и алгоритмы. Первые обрабатываю данные, вторые четко говорят как. 
Именно поэтому мы видели картинку "лосось в реке", множественные приколы с пальцами и т.п. Причина банальна - ИИ не думает, он берет то что ему дали, пытается понять что ему "сказали" и ПЫТАЕТСЯ выдать ответ который будет +/- соответствовать вопросу, при условии что он корректно сформирован а система его правильно "поняла"

Я понимаю с текстами, что он пишет то, что найдет в интернете, но как быть с изображениями? Взять к примеру, многопальцевость человеков: откуда он это взял? На чем основывается его мнение? В сети раньше не было изображений людей с большим, чем 5 количеством пальцев? Почему именно пальцев, а не носов, голов, глаз? Если он рисует что-то лишнее, значит его этому обучили? Может на первых этапах обучения произошла ошибка?