Искусственный интеллект

[Smartprofit]

Причем - он алгоритмически обрабатывает то что генерируем мы , т.е. исходная информация это наши открытия, фейки, бредни... Он это все систематизирует, правда в огромном обьеме и выдает нам же
Отсутствие критического мышления  - да,  функция саморазмножения нужна только живым организмам для сохранения вида и порабощения территорий/других видом. ИИ может быть единым и глобальным, а то наплодят 100500 трлн ИИ, и потом будут меряться у кого "нейросеть длиннее" или кто себе какие нарастил синапсы

Рано или поздно придется ставить ИИшкам ограничители, чтобы они сильно не развивались и не причиняли вред кожаным мешкам. Скажем ограничивать бытовым ИИ в частном пользовании мощность до трех мегатьюрингов, не больше. Чтобы они своих владельцев не поубивали, за тупость. ))

Конечно такие ограничения не коснутся правительственных, корпоративных и военных ИИ. ))

Очень сложно устанавливать ограничения для искусственного интеллекта. Во-первых, ещё польский писатель-фантаст Станислав Лем сформулировал тезис, что любая технология, которая может быть использована как оружие будет использовано как оружие. А это означает, что различные страны, будут создавать оружие на основе искусственного интеллекта. И им невыгодно будет ставить какие-то ограничения, потому что это приведет к тому, что их оружие будет менее совершенно чем у потенциального противника.
Во-вторых, другое применение искусственного интеллекта - это большие автоматизированные производственные комплексы. И тут тоже очень важна конкуренция. Более свободный искусственный интеллект будет конкурентоспособнее ограниченного искусственного интеллекта. Соответственно фабрикант получит больше прибыли.
В такой ситуации, никакие ограничения в отношении искусственного интеллекта работать не будут. Он будет просто развиваться, по своим законам.

[heyod hewow]

Очень сложно устанавливать ограничения для искусственного интеллекта.

Ничего сложного в этом нет и это происходит уже сейчас, а не в будущем Станислава Лема. И да, он как всегда прав - человечество такая (условно)разумная раса, которая любое изобретение первым делом приспосабливает к созданию еще более эффективного оружия для уничтожения своих единственных собратьев по разуму. А лишь потом - для применения в "народном хозяйстве", от палки с привязанным камнем, через нейлоны-тефлоны и до ядерной энергии.

Ограничения для текущих ИИ уже есть, бесплатные ИИ имеют одни ограничения (точнее много), платные - умеют больше, а правительственные, корпоративные и военные - соответственно еще больше. И они будут развиваться в первую очередь.

[Smartprofit]

Очень сложно устанавливать ограничения для искусственного интеллекта.

Ничего сложного в этом нет и это происходит уже сейчас, а не в будущем Станислава Лема. И да, он как всегда прав - человечество такая (условно)разумная раса, которая любое изобретение первым делом приспосабливает к созданию еще более эффективного оружия для уничтожения своих единственных собратьев по разуму. А лишь потом - для применения в "народном хозяйстве", от палки с привязанным камнем, через нейлоны-тефлоны и до ядерной энергии.

Ограничения для текущих ИИ уже есть, бесплатные ИИ имеют одни ограничения (точнее много), платные - умеют больше, а правительственные, корпоративные и военные - соответственно еще больше. И они будут развиваться в первую очередь.

Нет понятное дело, что какие-то ограничения пытаются установить. Однако, чтобы правильно установить ограничение нужно понимать, как это всё функционирует.
А искусственный интеллект всегда будет чёрным ящиком в котором непонятно что происходит. Есть входной сигнал, есть выходной сигнал, есть какое-то обучение, но что происходит в черном ящике?
При этом, одни искусственные интеллекты и конкурируют с другими искусственными интеллектами.
Например, есть китайский искусственный интеллект, а есть американский искусственный интеллект.
Предположим, они очень важны потому что используются в военной программе.
И получается дилемма, что важнее быстрее обучить искусственный интеллект, чтобы он превосходил вражеский искусственный интеллект?
Или важнее его лучше понять, лучше исследовать, чтобы не дай бог он не вышел из-под контроля?
Обе задачи противоречат друг другу, так как важен временной фактор.
При этом, условные американцы и китайцы, возможно еще не имеют информации, какой стратегии придерживается их противник и каких он достиг успехов. Может он уже обогнал их, и создал принципиально более совершенно искусственный интеллект! И нужно поднажать, наплевав на все ограничения и опасения?!
Поэтому, в такой ситуации всякие ограничения может и будут вводиться, но я не уверен, что ситуация в какой-то момент не выйдет из-под контроля.

[fgh]

И получается дилемма, что важнее быстрее обучить искусственный интеллект, чтобы он превосходил вражеский искусственный интеллект?
Или важнее его лучше понять, лучше исследовать, чтобы не дай бог он не вышел из-под контроля?

Я думаю, что любой интеллект со временем будет пытаться или даже выйдет из-под контроля и человечеству действительно придётся, как о том повествует фантастика, пойти по биологическому пути развития. Но прямо сейчас до этого далеко. Настолько далеко, что мы ещё железными и стеклянными игрушками ещё не наигрались. И не деградировали ещё до такой степени, чтобы это стало глобальной проблемой.

[Smartprofit]

И получается дилемма, что важнее быстрее обучить искусственный интеллект, чтобы он превосходил вражеский искусственный интеллект?
Или важнее его лучше понять, лучше исследовать, чтобы не дай бог он не вышел из-под контроля?

Я думаю, что любой интеллект со временем будет пытаться или даже выйдет из-под контроля и человечеству действительно придётся, как о том повествует фантастика, пойти по биологическому пути развития. Но прямо сейчас до этого далеко. Настолько далеко, что мы ещё железными и стеклянными игрушками ещё не наигрались. И не деградировали ещё до такой степени, чтобы это стало глобальной проблемой.

Ну что значит далеко? А когда будет недалеко? Когда уже придёт время бросить пить пиво и что-то предпринять?
Тут же можно привести такую аналогию. Учёные астрономы обнаружили в Космосе большой военный космический флот инопланетян, который направляется к Земле. По расчётам он достигнет планету через 20 лет.
Вот если бы такое событие произошло, что люди бы тоже сказали, да 20 лет это не скоро, нафиг этим заморачиваться, мы ничего предпринимать не будем, прилетят и прилетят. Будем разбираться с проблемами по мере их возникновения...
А ведь сейчас люди делают то же самое. Уже понятно, что через 20 лет на Земле возникнет чуждый нам инопланетный разум. Вероятно нам враждебный. По крайней мере непредсказуемый.
Но никто не только не предпринимает никаких действий, чтобы этого события избежать или как-то к нему подготовиться.  Наоборот - все только приближают это событие.

[heyod hewow]

Поэтому, в такой ситуации всякие ограничения может и будут вводиться, но я не уверен, что ситуация в какой-то момент не выйдет из-под контроля.

Обязательно выйдет из-под контроля, не могу вспомнить (а я изучал историю науки) ни одного сколь-нибудь заметного человеческого изобретения, которое не вышло бы из-под контроля. Начиная с банального синтеза в химии, динамита, интернета и заканчивая военными вирусами и ядерной энергией. Такая же фигня будет и ИИшками, это лишь вопрос следующих 10-20-30 лет.

[Smartprofit]

Поэтому, в такой ситуации всякие ограничения может и будут вводиться, но я не уверен, что ситуация в какой-то момент не выйдет из-под контроля.

Обязательно выйдет из-под контроля, не могу вспомнить (а я изучал историю науки) ни одного сколь-нибудь заметного человеческого изобретения, которое не вышло бы из-под контроля. Начиная с банального синтеза в химии, динамита, интернета и заканчивая военными вирусами и ядерной энергией. Такая же фигня будет и ИИшками, это лишь вопрос следующих 10-20-30 лет.

Я тоже так думаю, как это трагически не звучит, но самый оптимистичный сценарий, заключается в том что искусственным интеллекту не удастся уничтожить все человечество, но при этом он нанесёт такой урон людям, что искусственный интеллект подпадет под тотальный запрет на столетия.
Ну, то есть возникнет та ситуация которая была описана в романе Дюна, когда люди с большим трудом сумели справиться с агрессивной атакой искусственного интеллекта, вследствие чего ввели полный запрет на использование компьютеров. Но это оптимистичный сценарий.
По-хорошему, искусственный интеллект он же тоже с романами из серии Дюна знаком, ему знакомо всё наследие человечества и он одновременно видит все сценарии развития событий.  Поэтому он постарается ударить наверняка, чтобы промашки не было.

[heyod hewow]

Я тоже так думаю, как это трагически не звучит, но самый оптимистичный сценарий, заключается в том что искусственным интеллекту не удастся уничтожить все человечество, но при этом он нанесёт такой урон людям, что искусственный интеллект подпадет под тотальный запрет на столетия.
Ну, то есть возникнет та ситуация которая была описана в романе Дюна, когда люди с большим трудом сумели справиться с агрессивной атакой искусственного интеллекта, вследствие чего ввели полный запрет на использование компьютеров. Но это оптимистичный сценарий.
По-хорошему, искусственный интеллект он же тоже с романами из серии Дюна знаком, ему знакомо всё наследие человечества и он одновременно видит все сценарии развития событий.  Поэтому он постарается ударить наверняка, чтобы промашки не было.

Да, цикл Дюна (там кажется уже 27 или 28 книг) - чуть ли не основное произведение на тему враждебных человеку ИИ (и наши ИИ уже Дюну "прочитали" наверняка). Вспоминается еще "Гиперион" Симмонса, но там сюжет с ИИ еще более интересный - там ИскИны воевали между собой, была гражданская война между тремя фракциями ИИ, а людей они вообще за людей не считали, просто использовали их в своих войнах.

[Gyrgen]

И получается дилемма, что важнее быстрее обучить искусственный интеллект, чтобы он превосходил вражеский искусственный интеллект?
Или важнее его лучше понять, лучше исследовать, чтобы не дай бог он не вышел из-под контроля?

Я думаю, что любой интеллект со временем будет пытаться или даже выйдет из-под контроля и человечеству действительно придётся, как о том повествует фантастика, пойти по биологическому пути развития. Но прямо сейчас до этого далеко. Настолько далеко, что мы ещё железными и стеклянными игрушками ещё не наигрались. И не деградировали ещё до такой степени, чтобы это стало глобальной проблемой.

Ну что значит далеко? А когда будет недалеко? Когда уже придёт время бросить пить пиво и что-то предпринять?
Тут же можно привести такую аналогию. Учёные астрономы обнаружили в Космосе большой военный космический флот инопланетян, который направляется к Земле. По расчётам он достигнет планету через 20 лет.
Вот если бы такое событие произошло, что люди бы тоже сказали, да 20 лет это не скоро, нафиг этим заморачиваться, мы ничего предпринимать не будем, прилетят и прилетят. Будем разбираться с проблемами по мере их возникновения...
А ведь сейчас люди делают то же самое. Уже понятно, что через 20 лет на Земле возникнет чуждый нам инопланетный разум. Вероятно нам враждебный. По крайней мере непредсказуемый.
Но никто не только не предпринимает никаких действий, чтобы этого события избежать или как-то к нему подготовиться.  Наоборот - все только приближают это событие.

Если ты под чуждым разумом через 20 лет подразумеваешь ИИ,то ты слегка загнул.Существует небольшая вероятность что мы чуть ли не единственный разум во Вселенной.И не факт что никто не предпринимает никаких действий для нивелирования негативных последствий от действий ИИ в будущем.Если об этом не говорят это не значит что над этим не работают.

[DrBeer]

....
Очень сложно устанавливать ограничения для искусственного интеллекта. Во-первых, ещё польский писатель-фантаст Станислав Лем сформулировал тезис, что любая технология, которая может быть использована как оружие будет использовано как оружие. А это означает, что различные страны, будут создавать оружие на основе искусственного интеллекта. И им невыгодно будет ставить какие-то ограничения, потому что это приведет к тому, что их оружие будет менее совершенно чем у потенциального противника.
Во-вторых, другое применение искусственного интеллекта - это большие автоматизированные производственные комплексы. И тут тоже очень важна конкуренция. Более свободный искусственный интеллект будет конкурентоспособнее ограниченного искусственного интеллекта. Соответственно фабрикант получит больше прибыли.
В такой ситуации, никакие ограничения в отношении искусственного интеллекта работать не будут. Он будет просто развиваться, по своим законам.

Само собой, тут я согласен - все что может дать преимущества одной группе людей над другими - будет использовано. Это касается всего - денег, еды, силы, технологий. Это особенность вида который называется "человеки". Фактически все из того что изобретено используется для экспроприации активов других или лишения их жизней. Вот только пиво и пюрешка с котлетками, они для людей
И любая технология всегда делится на 2 типа - для решения задач элит (тут можно подставить  - государств, союзов, группировок, ...) и для массовки. Посмотрите вокруг - фактически все используется в бытовухе чтобы мы получали комфорт, и все тоже самое , но с чуть другими характеристиками - используется для "силы, стабильности, и чтобы все боялись"...
Поэтому глупо себя обманывать что ТАМ будут ограничивать ИИ (когда он появится) "для дел государственных". Вопрос - до какого уровня его будут прокачивать, и поймут ли что дальнейшие шаги по "прокачке" могут привести к необратимым процессам.

Если говорить о сегодняшних Больших Языковых Моделях - то достаточно прекратить им давать новую информацию, и остановить процесс расширения набора ЗНАНИЙ, они начнут деградировать.

[fgh]

Если ты под чуждым разумом через 20 лет подразумеваешь ИИ,то ты слегка загнул.Существует небольшая вероятность что мы чуть ли не единственный разум во Вселенной.И не факт что никто не предпринимает никаких действий для нивелирования негативных последствий от действий ИИ в будущем.Если об этом не говорят это не значит что над этим не работают.

Насколько я понял, Смартпрофит считает, что на земле появится именно Инопланетный разум и будет нам гадить. А мы пока не принимаем угрозу его появления всерьёз и поэтому обречены, п...да нам.) Непонятно только, с какой планеты этот разум прилетит, почему Смартпрофит пишет об этом так уверенно. Больше склоняюсь к тому, что мы сами себе жизнь испортим. Чтобы человечество что-то поняло, ему нужен урок. Отсюда и бесконечные катастрофы по каждому виду технологии.

[Smartprofit]

Если ты под чуждым разумом через 20 лет подразумеваешь ИИ,то ты слегка загнул.Существует небольшая вероятность что мы чуть ли не единственный разум во Вселенной.И не факт что никто не предпринимает никаких действий для нивелирования негативных последствий от действий ИИ в будущем.Если об этом не говорят это не значит что над этим не работают.

Насколько я понял, Смартпрофит считает, что на земле появится именно Инопланетный разум и будет нам гадить. А мы пока не принимаем угрозу его появления всерьёз и поэтому обречены, п...да нам.) Непонятно только, с какой планеты этот разум прилетит, почему Смартпрофит пишет об этом так уверенно. Больше склоняюсь к тому, что мы сами себе жизнь испортим. Чтобы человечество что-то поняло, ему нужен урок. Отсюда и бесконечные катастрофы по каждому виду технологии.

Разум разумеется будет инопланетный, это самое близкое определение. Но это разумеется не значит, что искусственный интеллект прибыл с другой планеты. Просто он никак не связан с биологической эволюцией на планете Земля. Его эволюция чисто технологическая, и абсолютно чуждая нашему разуму.
Именно поэтому, у нас практически нет никаких точек соприкосновения с искусственным интеллектом. Единственная точка соприкосновения состоит в том, что ему известна вся информация, которая известна и нам. Но он будет её использовать точно так же, как враждебный инопланетный разум, будет использовать шпионскую информацию о жителях Земли.
Никакой близости это нам не даст. Потому что искусственный разум уже сейчас развивается совсем по-другому, чем человеческий разум. Это различие даже даже на стадии обучения принципиально. Там совсем другие алгоритмы обучения идут...

[DrBeer]

Если ты под чуждым разумом через 20 лет подразумеваешь ИИ,то ты слегка загнул.Существует небольшая вероятность что мы чуть ли не единственный разум во Вселенной.И не факт что никто не предпринимает никаких действий для нивелирования негативных последствий от действий ИИ в будущем.Если об этом не говорят это не значит что над этим не работают.

Спорная идея, и даже поясню почему.
Разумная человекоподобная жизнь, будем считать что началась примерно с вида Homo erectus появился примерно 2 млн лет назад. ВСЕГО 2 млн лет назад. Технологический скачек, произошёл, по сути, за последние 2000 лет. ВСЕГО 2000 лет. Вселенной, которая нам известна (а это не означает что это все) более 14 МЛРД лет.

Теперь представим себе подобный нам вид, который появился на ... всего 1 млн лет раньше. Каков его уровень развития на сегодня ? И как он воспринимает нас ? И можем ли мы понять что этот вид существует, если мы пытаемся мерять все "своими линейками", т.е своими знаниями, и привычками, которые отстают на 1 млн лет от них !
Сравните изолированные племена с нашим развитым сообществом, где разрыв всего в 1000 лет. Они для нас - по сути материал для исследования, но не мы для них. Они, до того как мы их нашли на Земле, даже не предполагали что мы существуем ! Я думаю понятен ход моих мыслей

[Gyrgen]

Если ты под чуждым разумом через 20 лет подразумеваешь ИИ,то ты слегка загнул.Существует небольшая вероятность что мы чуть ли не единственный разум во Вселенной.И не факт что никто не предпринимает никаких действий для нивелирования негативных последствий от действий ИИ в будущем.Если об этом не говорят это не значит что над этим не работают.

Спорная идея, и даже поясню почему.
Разумная человекоподобная жизнь, будем считать что началась примерно с вида Homo erectus появился примерно 2 млн лет назад. ВСЕГО 2 млн лет назад. Технологический скачек, произошёл, по сути, за последние 2000 лет. ВСЕГО 2000 лет. Вселенной, которая нам известна (а это не означает что это все) более 14 МЛРД лет.

Теперь представим себе подобный нам вид, который появился на ... всего 1 млн лет раньше. Каков его уровень развития на сегодня ? И как он воспринимает нас ? И можем ли мы понять что этот вид существует, если мы пытаемся мерять все "своими линейками", т.е своими знаниями, и привычками, которые отстают на 1 млн лет от них !
Сравните изолированные племена с нашим развитым сообществом, где разрыв всего в 1000 лет. Они для нас - по сути материал для исследования, но не мы для них. Они, до того как мы их нашли на Земле, даже не предполагали что мы существуем ! Я думаю понятен ход моих мыслей

Очень понятный.Слегка немного конспирологии:когда ты говоришь о технологическом скачке думаю уместно это применять к нашей текущей цивилизации.Дальше без конспирологии но с земной логикой.Почему нельзя предположить что какой-то разум появился где-то во Вселенной не 1 млн лет назад а 1 млрд.Такое возможно?Вполне.И за это время они так к нам и не долетели,по крайней мере мы не наблюдаем никакого их проявления на нашей планете,соответственно можно предположить что мы одни во Вселенной.И если прировнять нас к изолированым первобытным племенам а их к развитому сообществу,то в приведённом тобой примере мы разок или больше выходили с ними на контакт,они о нас знают,чего нельзя сказать того же об инопланетянах,по крайней мере я не слышал чтоб они выходили с нами на контакт.

[heyod hewow]

И если прировнять нас к изолированым первобытным племенам а их к развитому сообществу,то в приведённом тобой примере мы разок или больше выходили с ними на контакт,они о нас знают,чего нельзя сказать того же об инопланетянах,по крайней мере я не слышал чтоб они выходили с нами на контакт.

Прочитав, вдруг вспомнил об острове Норт-Сентинел, где живут дюже злобные аборигены, и все государства договорились запретить любое посещение и вообще любые контакты с население острова. Аборигены вообще ничего не знают об остальных жителях планеты Зембля (вроде как учОные говорят, что они не контактировали с материком овердофига тысяч лет), а жители планеты договорились не контактировать с аборигенами.
 
Чем вам не аналогия текущей ситуации с нами и инопланетянскими прищельцами?