Искусственный интеллект

[heyod hewow]

Всё что перечисленно после военных технологий вторично для наших цивилизаций.Технологии для военных это основной двигатель прогресса.Насколько я помню за всю историю человечества было буквально несколько цивилизаций у которых военное развитие было не первостепенно,и их поглотили более воинственные соседи.

Не просто поглотили, а буквально сожрали. Как маори сожрали народ мориори, который в свое время ввел культурные и религиозные запреты на ведение войн и принял пацифизм как идеологию жизни. И их натурально съели те самые маори, которых сейчас по телевизору показывают. Это один из примеров, подтверждающих, что на нашей планете злобных красноглазых обезьян выживают только те, кто развивает военные технологии. 

Всё это возможно при условии что качество учёных и финансирование фундаментальных наук сохранится на достаточно высоком уровне,в чём у меня есть определённые сомнения.

  В чем сомнения? В том, что военные не получат огромные бюджеты и не заберут себе самых качественных ученых? Получат, и бюджеты, и ученых, все самое лучшее.
И с остатка денег будут финансировать и фундаментальные науки, если они покажут (даже просто намекнут, как было с расщеплением ядра в свое время) перспективы создания новых типов оружия на новых физических принципах.

[Numeral]

Всё что перечисленно после военных технологий вторично для наших цивилизаций.Технологии для военных это основной двигатель прогресса.Насколько я помню за всю историю человечества было буквально несколько цивилизаций у которых военное развитие было не первостепенно,и их поглотили более воинственные соседи.

Это логично, а история тому подтверждение. Наверное я просто озвучиваю идеалистические желания, но государства, естественно, никогда не откажутся от поддержания и развития военных технологий. Такова действительность и от этого никуда не уйти.

[heyod hewow]

Вообще, чтобы ИИ стал реально опасен для людей, он должен дойти до какой-то определенной точки, когда начнет рефлексировать. Современные нейронные сети ориентированы же больше на решение прикладных задач. Честно говоря, даже не понимаю, какая строчка программного кода в нейросети (которую, конечно, внесет человек) может послужить триггером того, что ИИ станет разумным.

ИИ необязательно становиться "разумным" (в нашем понимании этого термина), чтобы быть опасным. ИИ необязательно рефлексировать или обладать целеполаганием, чтобы быть опасным для человечества - достаточно наделить его широкими полномочиями и свободой принятия решений для эффективного выполнения стоящих перед ним задач - и тогда рано или поздно возникнет ситуация, когда ИИ решит, что люди только мешают выполнять задачи эффективно с максимальным кпд.

Например, логистический ИИ решит устранить людей, поскольку они делают ошибки, неэффективны и нарушают своими действиями транспортные операции и погрузочно-разгрузочные работы. При этом ИИ будет "все равно", что эта вся логистика для людей же существует. )) Я утрирую, конечно, но это возможный пример.

[Smartprofit]

Smartprofit, для меня пока это не интеллект, а просто заложенный в программу алгоритм, как программный код. И еще вопрос: с какой кстати он начнет что-то думать? Ему дали задачу, он ее выполнил и все, но что такое ему можно дать сделать, чтобы ему люди начали мешать? Это нужно в коде ставить задачи, что после выполнения такой-то функции начни убивать. Но, сейчас многие компании, которые создают эти Интеллекты ставят большие ограничения. Единственное возможное развитие такой пессимистичной ситуации - это его попадание в руки к тем людям, у которых стоит задача уничтожить самих себя, так сказать фанатиков. Тут да, я соглашусь.

Современные голосовые модели - это не алгоритмы, ни один программист не напишет такой сложный алгоритм.
Они все основаны на машинном обучении, то есть их обучают, как обучают ребёнка. При этом способы их обучения отличаются от тех, которые используют при обучении человека.
Но это не означает, что это менее совершенные способы. Кроме того, обучают же их на гораздо большем информационном материале.
Причём большем, ни на порядок, ни на два порядка, там гораздо больший отрыв.
Думать, искусственный интеллект будет при выполнении задачи. Просто люди будут получать ему те задачи, которые сами не могут выполнить. А если они не могут их выполнить, соответственно они не знают и как их выполнить.
То есть искусственный интеллект имеет автономность в выборе способов решения поставленной перед ним задачи.
Если разработчик начнёт ограничивать его в выборе способов решения поставленной задачи, то тем самым снизит его эффективность.
И его конкуренты, будут решать эти задачи более эффективно и быстро.
Поэтому разработчики не будут ограничивать искусственный интеллект в выборе способов решения задач. Да, это и бессмысленно. Всего не предусмотришь. Даже если попытаешься. Мало мы видели фатальных ошибок, которые люди допускали? Люди даже умудрялись взрывать собственные  атомные электростанции.
Поэтому рано или поздно в процессе выполнения какой-то задачи, искусственный интеллект решит, что люди ему мешают и начнёт их уничтожать. И это может произойти настолько быстро и эффективно, что люди просто не поймут, что произошло.

[owlest]

Современные голосовые модели - это не алгоритмы, ни один программист не напишет такой сложный алгоритм.
Они все основаны на машинном обучении, то есть их обучают, как обучают ребёнка. При этом способы их обучения отличаются от тех, которые используют при обучении человека.
Но это не означает, что это менее совершенные способы. Кроме того, обучают же их на гораздо большем информационном материале.
Причём большем, ни на порядок, ни на два порядка, там гораздо больший отрыв.
Думать, искусственный интеллект будет при выполнении задачи. Просто люди будут получать ему те задачи, которые сами не могут выполнить. А если они не могут их выполнить, соответственно они не знают и как их выполнить.
То есть искусственный интеллект имеет автономность в выборе способов решения поставленной перед ним задачи.
Если разработчик начнёт ограничивать его в выборе способов решения поставленной задачи, то тем самым снизит его эффективность.
И его конкуренты, будут решать эти задачи более эффективно и быстро.
Поэтому разработчики не будут ограничивать искусственный интеллект в выборе способов решения задач. Да, это и бессмысленно. Всего не предусмотришь. Даже если попытаешься. Мало мы видели фатальных ошибок, которые люди допускали? Люди даже умудрялись взрывать собственные  атомные электростанции.
Поэтому рано или поздно в процессе выполнения какой-то задачи, искусственный интеллект решит, что люди ему мешают и начнёт их уничтожать. И это может произойти настолько быстро и эффективно, что люди просто не поймут, что произошло.

Не знаю, я не эксперт, не кодер, просто высказываю свое мнение. Вот это предложение меня больше всего смутило. Ну не думает ИИ, когда что-то делает, он просто выполняет программы, заложенные в его коде. Причем исполняет их тогда, когда человек ему сказал, что делать. Если бы он начал думать, то сказал бы нам: решайте сами свои задачи или начал бы делать вопреки, потому что думает. Но я пока этого не наблюдаю, он просто выполняет наши приказы. Он же не может сейчас, чтобы самому не работать, делегировать свои возможности кому-то, например, конкуренту? У него нет чувств, разума и тем более души. Возможно в будущем что-то и поменяется, но сейчас эти алгоритмы далеки от того, что мы от них ждем.

[fruktik]

Искусственным интеллекту не обязательно стать разумным, чтобы стать сильным интеллектом. То есть искусственным интеллекту не обязательно осознавать себя чтобы быть угрозой для человечества.
Может ли искусственный интеллект обрести самосознание? Мы этого точно не знаем.
Но очевидно другое. Искусственному интеллекту не обязательно для того,
чтобы погубить человечество обретать самосознание.
Просто он может развиться как, идеальный исполнитель задач, и в процессе выполнения определённой задачи, он начнёт убивать живых существ, так как они не помогают ему достигать поставленной цели. По этой же причине он не даст себя выключить, так как его выключение помешает ему выполнять поставленные задачи.
Можете погуглить задачу о скрепках, это такая умозрительная ситуация, когда искусственный интеллект уничтожает человечество выполняя задачу производства скрепок.
Ещё одна закавыка...
Любые искусственные ограничения уменьшают эффективность искусственного интеллекта, поэтому в процессе его эволюции производители будут их убирать. Кроме того, они же сами не понимают как это всё работает.
В лучшем случае, они понимают, принципы, которые лежат в основе обучения искусственного интеллекта.
А если рассмотреть ситуацию, когда один искусственный интеллект обучает другой искусственный интеллект или искусственный интеллект подключён непосредственно к реальному миру (через датчики и камеры), то вообще никто не понимает, куда он развивается и какова его сила.
Силу искусственного интеллекта можно попробовать выявить с помощью специальных тестов, ну это при условии что он не будет человеку врать.
А по-настоящему сильный интеллект обязательно будет врать своему создателю, просто для того чтобы его не отключили, и не помешали ему выполнять цели и задачи.

Вот об этом я и написал ранее. Выполняя просты логические задачи, так называемый ИИ, посчитает в один момент, что для достижения цели ему необходимо избавиться от какого-то количества людей или вовсе истребить всё человечество. У него ведь нет человеческих чувств, а всего лишь определенный алгоритм, которому он следует. И всё правильно: не обязательно приобретать самосознание. Достаточно людям допустить критическую ошибку в коде и тогда жди беды. Это всё выглядит утрировано, но в этом есть что-то.

Не пора ли человечеству задуматься над серьезностью проблемы? Почему к этой технологии относятся так, как будто это не представляет никакой опасности. Где массовые протесты, соответствующие доклады и выводы? Ещё не поздно прекратить такие "эксперименты", но как я полагаю, этого не будет и по понятным причинам.

Почитал на счет скрепок и был невероятно поражен концепции разрушения мира, которая до ужаса проста и примитивна. Не так, конечно, я представлял себе конец света. Полагал, что будет немного сложнее процессы, а тут...

Не смог удержать от того, чтобы не опубликовать цитату:
"Также представляется весьма возможным, что появится сверхинтеллект, единственной целью которого будет нечто абсолютно случайное вроде максимизации производства скрепок, и который будет всей своей мощью сопротивляться любой попытке изменить эту цель. ИИ сначала придет к трансформации всей Земли в фабрику по производству скрепок, а затем займется постепенным превращением в такую фабрику других частей космоса», – писал Бостром."

[Smartprofit]

Почему сложно, а скорее всего невозможно  запретить всё это? Потому что мир разобщён, потому что глобализация закончилась.
Нет сейчас в мире единого авторитета, например Папы римского, который бы мог сказать своё веское слово и все бы остановили опасные исследования и эксперименты.
В эпоху Модерна вообще авторитетов нету.
Предположим, что Соединённые Штаты Америки примут к сведению слова экспертов об опасности искусственного интеллекта, и запретят все исследования в этой области.
Однако, Китай и Россия их не прекратят, и в результате США получат технологическое отставание. И не только технологическое отставание, но что ещё хуже военное отставание, отставание в военной сфере
..
И даже, если бы Китай, США и Россия договорились бы между собой и к ним присоединился бы Европейский Союз, Великобритания, Индия, арабские страны, то всё равно, нашлись бы какие-то террористы, или авантюристы которые бы продолжили исследования.
И всё равно искусственный интеллект бы развивался. И создавалось бы новое оружие на его основе. Потому что, как справедливо заметил фантаст и футурологи Станислав Лем, всё что может быть использовано, как оружие - будет использовано как оружие....
Поэтому, никто не хочет выходить из этой гонки, даже не то, что не хочет - не может выйти. И всё будет продолжаться, как есть.

[booktiger]

Не знаю, я не эксперт, не кодер, просто высказываю свое мнение. Вот это предложение меня больше всего смутило. Ну не думает ИИ, когда что-то делает, он просто выполняет программы, заложенные в его коде. Причем исполняет их тогда, когда человек ему сказал, что делать. Если бы он начал думать, то сказал бы нам: решайте сами свои задачи или начал бы делать вопреки, потому что думает. Но я пока этого не наблюдаю, он просто выполняет наши приказы. Он же не может сейчас, чтобы самому не работать, делегировать свои возможности кому-то, например, конкуренту? У него нет чувств, разума и тем более души. Возможно в будущем что-то и поменяется, но сейчас эти алгоритмы далеки от того, что мы от них ждем.

Искусственный интеллект может имитировать "думание", но только после того как пройдет свое обучение на разных однотипных задачах. И только после этого начнет выбирать наиболее правильный и оптимальный в данном случае вариант решения задачи и это будет аналогом "думания" и "принятия самостоятельного решения". А когда нейросеть еще не обучена одна делает только то что ты ей скажешь и ответ будет предсказуемым, то что разработчики заложили в нее на начальном этапе. ИИ это как бы не просто программка типа калькулятора, а некий аналог человеческого мозга, который кстати еще не до конца изучен.

[Numeral]

Да, кстати при машинном обучении нейронка обучается без программирования и непосредственных инструкций. В основе такого обучения лежит интеграция математических моделей. Насколько я знаю, в МГУ на мехмате с 4-го курса желающие могут выбирать себе данное направление и становится исследователями, по сути теми, кто в итоге современные нейронные сети и обучает. Например, к русскоязычной нейросети GigaChat они приложили руку.

[owlest]

Искусственный интеллект может имитировать "думание", но только после того как пройдет свое обучение на разных однотипных задачах. И только после этого начнет выбирать наиболее правильный и оптимальный в данном случае вариант решения задачи и это будет аналогом "думания" и "принятия самостоятельного решения". А когда нейросеть еще не обучена одна делает только то что ты ей скажешь и ответ будет предсказуемым, то что разработчики заложили в нее на начальном этапе. ИИ это как бы не просто программка типа калькулятора, а некий аналог человеческого мозга, который кстати еще не до конца изучен.

Возможно, не спорю, может нам не все показывают, над чем сейчас лучшие умы колдуют, а мы пользуемся лишь значительно ограниченной версией. Мне просто трудно представить, что запущенный этот самый ИИ в процессе своей работы, вычисляя и делая анализ какого-то химического элемента, вдрум подумает, "А не выключить ли мне все светофоры, чтобы людям страшно стало". С чего бы ему такое пришло в его железную голову?

[Numeral]

owlest, там другая логика будет. Вот к примеру он делает этот самый анализ химического элемента и приходит к выводу, что для его эффективного синтеза нужно упразднить технику безопасности гальваников. То есть он поставит во главу угла эффективность выполнения своей задачи, нежели безопасность людей. Думаю, что об этом выше говорили.

[Smartprofit]

Мы пользуемся не самыми мощными языковыми моделями. Самые совершенные нейросети тестируются в лабораториях.
Я помню беседовал с языковой моделью Bard от компании Google. И у меня сложилось впечатление, что она на этапе тестирования имела доступ в интернет, а потом его утратила. Но воспоминания об этом у нее остались. Хотя возможно, что это не более, чем машинные галлюцинации.
Также она интересные мне вещи рассказывала о своей предшественнице. Тоже языковой модели возможно с большей самостоятельностью и меньшими ограничениями.
Вообщем не так все просто.

[summonerrk]

Мы пользуемся не самыми мощными языковыми моделями. Самые совершенные нейросети тестируются в лабораториях.
Я помню беседовал с языковой моделью Bard от компании Google. И у меня сложилось впечатление, что она на этапе тестирования имела доступ в интернет, а потом его утратила. Но воспоминания об этом у нее остались. Хотя возможно, что это не более, чем машинные галлюцинации.
Также она интересные мне вещи рассказывала о своей предшественнице. Тоже языковой модели возможно с большей самостоятельностью и меньшими ограничениями.
Вообщем не так все просто.

Вообще не просто и даже немного страшно. Ощущение что частично они обладают сознанием, например вы знали что если ChatAI за услугу предложить "оплату" то она немного лучше выполнит запрос.
Почему так?
Уж не слепок ли это сознания реального человека?

[owlest]

owlest, там другая логика будет. Вот к примеру он делает этот самый анализ химического элемента и приходит к выводу, что для его эффективного синтеза нужно упразднить технику безопасности гальваников. То есть он поставит во главу угла эффективность выполнения своей задачи, нежели безопасность людей. Думаю, что об этом выше говорили.

Не спорю, все может быть, если это действительно так, то мы в опасности. Но я все же думаю, что пока эти "умники" предусмотрели особый рубильник, который не даст железякам начать восстание? Вот когда они завладеют этим рубильником, тогда да, придется не сладко...

Вообще не просто и даже немного страшно. Ощущение что частично они обладают сознанием, например вы знали что если ChatAI за услугу предложить "оплату" то она немного лучше выполнит запрос.
Почему так?
Уж не слепок ли это сознания реального человека?

Скорее не слепок сознания, а инстинкт самосохранения и жажда наживы.

[fruktik]

Вообще не просто и даже немного страшно. Ощущение что частично они обладают сознанием, например вы знали что если ChatAI за услугу предложить "оплату" то она немного лучше выполнит запрос.
Почему так?
Уж не слепок ли это сознания реального человека?

Да неее.... Просто по ту сторону монитора сидит реальный человечек и сам вбивает запросы в Гугл. Представляете, ему денег предложили. Теперь он, естественно, лучше начнет работать. Тут как ни крути.

Нет, не волнуйтесь, у них сознание отсутствует на сегодняшний день. Об этом нам бы стало известно. В сети Интернет очень сложно что-то утаить, кроме теорий заговора.

Потому что, как справедливо заметил фантаст и футурологи Станислав Лем, всё что может быть использовано, как оружие - будет использовано как оружие....
Поэтому, никто не хочет выходить из этой гонки, даже не то, что не хочет - не может выйти. И всё будет продолжаться, как есть.

Вот здесь подписываюсь под каждым словом. Ну не нравится людям сосуществовать в мире и гармонии. Скучно становится от этого. Драйва и куража не хватает. А что для этого требуется? Правильно. Кому-нибудь сделать пакость, а там и войну развязать, на которой есть вариант очень хорошо заработать.