Искусственный интеллект

[heyod hewow]

heyod hewow, если размышлять категориями научной фантастики, то по первому пункту соглашусь. Но вот по второму нет, поскольку себестоимость этих дронов незначительная относительно бюджета ВПК, они по сути как расходники сейчас идут, с какими-то там отключениями никто заморачиваться не будет. Но, если это будет какое-то штучное дорогое устройство, тогда ваша теория может оказаться верна.

А я по второму пункту говорю не о сегодняшнем дне, не об уровне fpv-дронов и рое тактических дронов средней дальности, я говорю о дне завтрашнем. То, что сегодня научная фантастика, завтра - уже реальность. 20-30 лет назад ИИ, квантовые вычисления да и современные дроны - были именно что фантастикой. А сегодня - это все реальность.

Так что пункт2 через ..дцать лет - будет не такая уж фантастика, а вполне себе рабочая система. Например, орбитальная группировка защиты от астероидов, или просто орбитальная система уничтожения космического мусора, остатков спутников, или комплекс защиты границ... вариантов много.   

[summonerrk]

там был робот, основанный на искусственном интеллекте, он выглядел как человек, его звали Дейта. Так вот в плане расчетов он был просто недосягаем, а когда дело касалось бытовых вопросов или вопросов, связанных с чувствами, он значительно уступал людям. Там сцена была одна интересная, у него палец застрял в какой-то безделушке, он не никак не мог освободить свой палец. А человек просто взял и снял мгновенно своей рукой эту штуку, и робот удивился, что так было можно.

Но ведь нам необязательно строить универсальных роботов в будущем, можно строить узкоспециализированных, одни биг дэйта обрабатывают, другие в домино шахматы режутся, третьи у первых и вторых пальцы застрявшие вытаскивают. А еще лучше третьих заменить рабами, кожаными мешками, так дешевле будет, особо проворным и услужливым можно выдавать не один протеиновый батончик на день, а целых два... так и человеческую породу можно улучшить, в процессе. ))

Именно поэтому я считаю что сейчас все эти андроиды похожие на людей это показуха. Неразумно использовать очен широкофукционального робота для 99 процентов жизненных задач. Это неразумно и дорого. Для каких же задач все таки могут подойти разработанные сейчас атлас, собака и тесловский бот? Наверное для полетов  в космос и опасных для человека работ.

[bitbit97]

Мне кажется, что люди уже столько фильмов пересмотрели, столько книг перечитали на тему ИИ и уничтожения человечества, что уже создали некий рубильник, который тупо возьмет и выключит все одним поворотом.

а где-то в секретной лаборатории продолжается работа по разработке, изучению этой технологии семимильными шагами.

Человек такое существо, что ему сложно держать что-то в секрете. Если разработка и ведется, то для нее необходимы средства и материалы. Появляться они из ниоткуда не в состоянии. Поэтому все поставки и траты 200% где-то документируются, и кто-то точно об этом разболтал бы в разговорах на кухне.

[heyod hewow]

Именно поэтому я считаю что сейчас все эти андроиды похожие на людей это показуха. Неразумно использовать очен широкофукционального робота для 99 процентов жизненных задач. Это неразумно и дорого. Для каких же задач все таки могут подойти разработанные сейчас атлас, собака и тесловский бот? Наверное для полетов  в космос и опасных для человека работ.

Именно так и есть - показуха. И причина этой показухи в кинофантастике 1950-60-70х годов, где все роботы должны были быть человекообразными, иначе (среднего ума)зритель не поймет, на что смотрит. )) И даже современные атлас, собака бостон дайнемикс и тесла бот несут отпечаток этой показухи. Сборочные роботы в автопромышленности существуют десятки лет, покажите их зрителю - он зевнет, скучно... эмм.. робот-пылесос? Еще скучнее. ))
Но будущее именно за узкоспециализированными роботами, под каждую задачу  - своя разновидность. И никакой человекообразности... кроме сферы интимных услуг, разумеется. )) Хотя и там появляется пространство для полета фантазии и функциональности.

[Numeral]

Так что пункт2 через ..дцать лет - будет не такая уж фантастика, а вполне себе рабочая система. Например, орбитальная группировка защиты от астероидов, или просто орбитальная система уничтожения космического мусора, остатков спутников, или комплекс защиты границ... вариантов много.

Вот было бы прекрасно, если бы люди поменяли фокус с военных технологий на исследовательские в области космоса, например. Но действительность такова, что мы размышляем об искусственном интеллекте применительно к оружию, ибо злободневно.

Вообще, чтобы ИИ стал реально опасен для людей, он должен дойти до какой-то определенной точки, когда начнет рефлексировать. Современные нейронные сети ориентированы же больше на решение прикладных задач. Честно говоря, даже не понимаю, какая строчка программного кода в нейросети (которую, конечно, внесет человек) может послужить триггером того, что ИИ станет разумным.

[bitbit97]

Так что пункт2 через ..дцать лет - будет не такая уж фантастика, а вполне себе рабочая система. Например, орбитальная группировка защиты от астероидов, или просто орбитальная система уничтожения космического мусора, остатков спутников, или комплекс защиты границ... вариантов много.

Вот было бы прекрасно, если бы люди поменяли фокус с военных технологий на исследовательские в области космоса, например. Но действительность такова, что мы размышляем об искусственном интеллекте применительно к оружию, ибо злободневно.

Вообще, чтобы ИИ стал реально опасен для людей, он должен дойти до какой-то определенной точки, когда начнет рефлексировать. Современные нейронные сети ориентированы же больше на решение прикладных задач. Честно говоря, даже не понимаю, какая строчка программного кода в нейросети (которую, конечно, внесет человек) может послужить триггером того, что ИИ станет разумным.

Я лишь из негатива, связанного с ИИ вижу лишь как люди из ничего или при минимуме-минимальных усилий опять начали грести деньги. А так же заполонили мусором как сеть (просьбы сгенерировать ту или иную картинку ради продажи ее как NFT например), так и оффлайн (ситуации когда просят ИИ сгенерировать картинку>главы> описание глав> визуальное оформление. те полностью сгенерированная книга). Из плюсов знаю что при создании миров в играх, наполнением их теперь занимается не человек, а ИИ. Где-то как-то помогает кодить (я не силен в этом). В остальном используют для развлечения. Где тут угроза от ИИ, я не знаю.

[summonerrk]

. И никакой человекообразности... кроме сферы интимных услуг, разумеется. )) Хотя и там появляется пространство для полета фантазии и функциональности.

Вы высказали то, что все держали на языке) ахаха) Все верно.
Я как раз только сегодня натыкался на Ютубе на моменты из последнего Бегущего по Лезвию, когда главный герой идёт по улице и к нему подходит девушка. Он показывает что ему не интересно и она говорит: предпочитаешь настоящих?

Сфера секса всегда одна из сильных причин прогресса. Интернет was born for porn
"Дополненная реальность, виртуальная... Она для учебы и веселья"
Ну ну. Знаем мы какого веселья)

[Smartprofit]

Так что пункт2 через ..дцать лет - будет не такая уж фантастика, а вполне себе рабочая система. Например, орбитальная группировка защиты от астероидов, или просто орбитальная система уничтожения космического мусора, остатков спутников, или комплекс защиты границ... вариантов много.

Вот было бы прекрасно, если бы люди поменяли фокус с военных технологий на исследовательские в области космоса, например. Но действительность такова, что мы размышляем об искусственном интеллекте применительно к оружию, ибо злободневно.

Вообще, чтобы ИИ стал реально опасен для людей, он должен дойти до какой-то определенной точки, когда начнет рефлексировать. Современные нейронные сети ориентированы же больше на решение прикладных задач. Честно говоря, даже не понимаю, какая строчка программного кода в нейросети (которую, конечно, внесет человек) может послужить триггером того, что ИИ станет разумным.

Искусственным интеллекту не обязательно стать разумным, чтобы стать сильным интеллектом. То есть искусственным интеллекту не обязательно осознавать себя чтобы быть угрозой для человечества.
Может ли искусственный интеллект обрести самосознание? Мы этого точно не знаем.
Но очевидно другое. Искусственному интеллекту не обязательно для того,
чтобы погубить человечество обретать самосознание.
Просто он может развиться как, идеальный исполнитель задач, и в процессе выполнения определённой задачи, он начнёт убивать живых существ, так как они не помогают ему достигать поставленной цели. По этой же причине он не даст себя выключить, так как его выключение помешает ему выполнять поставленные задачи.
Можете погуглить задачу о скрепках, это такая умозрительная ситуация, когда искусственный интеллект уничтожает человечество выполняя задачу производства скрепок.
Ещё одна закавыка...
Любые искусственные ограничения уменьшают эффективность искусственного интеллекта, поэтому в процессе его эволюции производители будут их убирать. Кроме того, они же сами не понимают как это всё работает.
В лучшем случае, они понимают, принципы, которые лежат в основе обучения искусственного интеллекта.
А если рассмотреть ситуацию, когда один искусственный интеллект обучает другой искусственный интеллект или искусственный интеллект подключён непосредственно к реальному миру (через датчики и камеры), то вообще никто не понимает, куда он развивается и какова его сила.
Силу искусственного интеллекта можно попробовать выявить с помощью специальных тестов, ну это при условии что он не будет человеку врать.
А по-настоящему сильный интеллект обязательно будет врать своему создателю, просто для того чтобы его не отключили, и не помешали ему выполнять цели и задачи.

[owlest]

Smartprofit, для меня пока это не интеллект, а просто заложенный в программу алгоритм, как программный код. И еще вопрос: с какой кстати он начнет что-то думать? Ему дали задачу, он ее выполнил и все, но что такое ему можно дать сделать, чтобы ему люди начали мешать? Это нужно в коде ставить задачи, что после выполнения такой-то функции начни убивать. Но, сейчас многие компании, которые создают эти Интеллекты ставят большие ограничения. Единственное возможное развитие такой пессимистичной ситуации - это его попадание в руки к тем людям, у которых стоит задача уничтожить самих себя, так сказать фанатиков. Тут да, я соглашусь.

[Numeral]

owlest, это не обязательно могут быть фанатики. Это могут быть люди, которые захотят таким образом уничтожить своего врага, а сами того не понимая, дадут искусственному интеллекту такие полномочия, которые позволят перейти эту точку невозврата. Разве что вот как-то так все произойдет. А в итоге оружие будет способно убить и своих создателей и еще кого захочет.

[booktiger]

В США предложили запретить колл-ботов на основе ИИ.
Злоумышленники все чаще используют ИИ-технологии, чтобы имитировать человеческие голоса посредством автоматических звонков.
По данным Федеральной комиссии по связи США (FCC), в последние годы количество подобных звонков резко возросло, поскольку технологии способны вводить потребителей в заблуждение, имитируя голоса знаменитостей, политических деятелей и даже членов семьи.
Журналист Джозеф Кокс "обманул" голосовой идентификатор банка с помощью бесплатного ИИ-сервиса для синтеза речи.

Вам когда нибудь звонили голосом известных личностей?

[Numeral]

booktiger, звонить не звонили, но видел такую тему у блогеров на ютубе, это видимо сейчас популярный тренд. С помощью какой-то нейронки можно и внешность менять свою на внешность какой-то знаменитости, конечно, это для юмора делается сейчас. А так по идее да, мошенники могут смоделировать какую-то личность и обойти контроли системы безопасности. Спецам по security это, конечно, нужно иметь ввиду.

[bitbit97]

booktiger, звонить не звонили, но видел такую тему у блогеров на ютубе, это видимо сейчас популярный тренд. С помощью какой-то нейронки можно и внешность менять свою на внешность какой-то знаменитости, конечно, это для юмора делается сейчас. А так по идее да, мошенники могут смоделировать какую-то личность и обойти контроли системы безопасности. Спецам по security это, конечно, нужно иметь ввиду.

У меня во время видео роликов на ютубе иногда всплывает реклама всяческих мошеннических схем, где ИИ (как мне кажется) говорит голосом известных людей и вешает лапшу о том насколько проект выгодный. Но на подобное купится лишь слишком доверчивый и полный новичок. Возможно это можно использовать для голосовой авторизации. Но опять же, все упирается в деньги, а не в угрозу и безопасность. Запуск ракет по сетчатке глаза и голосовой идентификации - это типа фильмов 90х и начало 2000.

[Numeral]

bitbit97, вот именно реклама мошеннических схем мне не всплывала точно на ютубе. Там же в принципе есть кодекс свой, за такое должны банить аккаунты или как минимум страйки выписывать.

Вообще, если кто-то видит, что какая-то звезда агитирует вкладываться в какой-то проект, то обязательно перепроверяйте информацию. Да в наш век и звезда может реально реально в скам приглашать.

[Gyrgen]

Вот было бы прекрасно, если бы люди поменяли фокус с военных технологий на исследовательские в области космоса, например. Но действительность такова, что мы размышляем об искусственном интеллекте применительно к оружию, ибо злободневно.

Вообще, чтобы ИИ стал реально опасен для людей, он должен дойти до какой-то определенной точки, когда начнет рефлексировать. Современные нейронные сети ориентированы же больше на решение прикладных задач. Честно говоря, даже не понимаю, какая строчка программного кода в нейросети (которую, конечно, внесет человек) может послужить триггером того, что ИИ станет разумным.

Всё что перечисленно после военных технологий вторично для наших цивилизаций.Технологии для военных это основной двигатель прогресса.Насколько я помню за всю историю человечества было буквально несколько цивилизаций у которых военное развитие было не первостепенно,и их поглотили более воинственные соседи.

А я по второму пункту говорю не о сегодняшнем дне, не об уровне fpv-дронов и рое тактических дронов средней дальности, я говорю о дне завтрашнем. То, что сегодня научная фантастика, завтра - уже реальность. 20-30 лет назад ИИ, квантовые вычисления да и современные дроны - были именно что фантастикой. А сегодня - это все реальность.

Так что пункт2 через ..дцать лет - будет не такая уж фантастика, а вполне себе рабочая система. Например, орбитальная группировка защиты от астероидов, или просто орбитальная система уничтожения космического мусора, остатков спутников, или комплекс защиты границ... вариантов много.

Всё это возможно при условии что качество учёных и финансирование фундаментальных наук сохранится на достаточно высоком уровне,в чём у меня есть определённые сомнения.Не изобрети относительно недавно неодимовые магниты хрен бы мы увидели дроны и проч.подобные аппараты.