Искусственный интеллект

[Numeral]

booktiger, это если брать расчеты, а если брать рефлексию. Вспомнил интересный пример из сериала СтарТрек, там был робот, основанный на искусственном интеллекте, он выглядел как человек, его звали Дейта. Так вот в плане расчетов он был просто недосягаем, а когда дело касалось бытовых вопросов или вопросов, связанных с чувствами, он значительно уступал людям. Там сцена была одна интересная, у него палец застрял в какой-то безделушке, он не никак не мог освободить свой палец. А человек просто взял и снял мгновенно своей рукой эту штуку, и робот удивился, что так было можно.

[heyod hewow]

там был робот, основанный на искусственном интеллекте, он выглядел как человек, его звали Дейта. Так вот в плане расчетов он был просто недосягаем, а когда дело касалось бытовых вопросов или вопросов, связанных с чувствами, он значительно уступал людям. Там сцена была одна интересная, у него палец застрял в какой-то безделушке, он не никак не мог освободить свой палец. А человек просто взял и снял мгновенно своей рукой эту штуку, и робот удивился, что так было можно.

Но ведь нам необязательно строить универсальных роботов в будущем, можно строить узкоспециализированных, одни биг дэйта обрабатывают, другие в домино шахматы режутся, третьи у первых и вторых пальцы застрявшие вытаскивают. А еще лучше третьих заменить рабами, кожаными мешками, так дешевле будет, особо проворным и услужливым можно выдавать не один протеиновый батончик на день, а целых два... так и человеческую породу можно улучшить, в процессе. ))

[fgh]

Вот вы привели в пример фрагмент из х/ф Терминатор. Собрать такого робота без ведома человека невозможно. Подобное вскроется в момент доставки необходимых материалов. Максимум гадостей что можно ожидать от ИИ это шпионаж, утечки информации. Но и подобное приведет к обогащению одних за счет банкротства других. Вот и все.

Если они станут умнее нас (в чем я сомневаюсь), то законы нашей логики уже могут не сработать, и машины нас реально обхитрят и сделают по-своему вне зависимости от их задачи. Но это такие уже размышления больше в плоскости научной фантастики.

А люди да, постоянно проблемы себе и нашей планете подкидывают. И, к сожалению, чем дальше, тем только хуже что-то.

Даже устаревшие модели ИИ в 1997 году уже обыгрывали самых сильных шахматистов мира, и один из проигравших искусственному интеллекту Гарри Каспаров. Конечно сама машина была заточена только под шахматы и ничего больше делать не умела, в отличие о человека. С тех пор прошло более 25 лет и развитие ИИ шагнуло далеко вперед, количество комбинаций которое может отработать ИИ многократно превышает возможности человеческого мозга, возможности человеческого мозга на самом деле имеют границы.

Да, ИИ силён своей спциализацией и механической работой. Как в данном случае - простым расчётом вариантов и выбором оптимального пути. И или запоминанием ранее сыгранных похожих партий.
    Человек берёт другим - эвристикой. В принципе, этой эвристике можно научить и машину, но сначала нужно до конца разобраться как она и у человека устроена. Такой ИИ действительно далеко шагнёт и оставит без работы множество людей. Ну или заставит их менять специализацию.

[bachichak]

Некоторые могут считать и так, но только не я. Уж слишком опасно играть с такой технологией, когда до конца не понимают, что они делают. Ещё раз хочу напомнить о том, что люди меркантильны, жадны и алчны. Это нас и погубит в итоге, а данный ИИ поможет в этом без проблем после того, как получит контроль над военной основой всех стран. Писец подкрался незаметно.

Ну вы блин даете ... пролистал диагонально, а ща попробую коммент, в смысле ИМХО выдать /по возможности/
fruktik ну Вам особый респект ! за визуализацию ) /песец подкрался не заметно))/ кстате, по жизни так и есть !)
Итак, НО ! буду краток

fruktik, тут также как с оружием массового поражения, люди стараются максимально внимательно к нему относиться. Также и к технологиям по развитию ИИ, взяли на контроль, Илон Маск уже говорил, что важно попридержать лошадей. чтобы не вышло никаких эксцессов. Chat GPT4 был пока что последней версией, прямо в ближайшее время новую версию выпускать не будут.   

так и хотел бы сказать а ху из тот кто это сказал, но не буду /"Заратустра не позволяет" как говаривал товарищ Бендер/
на заборе тоже написано....
есть уже далеко и не ЖПТ, а гораздо далее и более ...
Уважаемый Numeral - я... просто свое мнение высказываю. Без обид и плюсую в карму нолимит !

Не думаю что военные настолько глупые люди, чтобы давать контроль в руки ИИ. По моему там чтобы произвести пуск или большой бум, надо получение подтверждение (например в виде нажатия на кнопку например) более чем 1 человека. Как мультиподпись кошелька.

но есть же и "тупорылые ублюдки" нелюди /без совести, чести, любви не испытав, не знавши света и глубин .... в стихи не буду, то потом - отдельная тема/
эт я про так наз военных. не про всех

Бояться ИИ точно не стоит, точно не сейчас. Кто вообще его опасается, кроме айтишников, фрилансеров и посредственных дизайнеров?

а я боюсь. Не, но не то что бы ... но...  "Я не трус, но я боюсь" )

Да, ИИ силён своей спциализацией и механической работой. Как в данном случае - простым расчётом вариантов и выбором оптимального пути. И или запоминанием ранее сыгранных похожих партий.
    Человек берёт другим - эвристикой. В принципе, этой эвристике можно научить и машину, но сначала нужно до конца разобраться как она и у человека устроена. Такой ИИ действительно далеко шагнёт и оставит без работы множество людей. Ну или заставит их менять специализацию.

прикол в том, опять же имхо, погубит любопытство.
О, пора кончать !)) я в смысле, а то ща на философию с анализом об устройстве мира понесет меня...


Ну и, да простит меня

зы. создали ии потомучто сами что-то не можем? ил не хотим? или обленились или акуели?...
или царицы соблазнили а мы поддались..
Всем Мудрости!

[Smartprofit]

fruktik Вы или очень впечатлительный, или просмотрели много фильмов или прочли много фантастики. Возможности ИИ очень и очень ограничены. Скорее нас погубит человеческая глупость, чем ИИ. Не понимаю, кто вообще начал эту панику о ИИ? Те кто потеряли работу из-за него что ли? Так на общем фоне таких не много.

Вот вы привели в пример фрагмент из х/ф Терминатор. Собрать такого робота без ведома человека невозможно. Подобное вскроется в момент доставки необходимых материалов. Максимум гадостей что можно ожидать от ИИ это шпионаж, утечки информации. Но и подобное приведет к обогащению одних за счет банкротства других. Вот и все.

Первыми забили тревогу те, кто непосредственно работал с искусственным интеллектом. Или обладает достаточными знаниями, имеется в виду профессиональные знания в области big data и математики, чтобы оценить глубину проблемы.
По сути, искусственный интеллект - это экзистенциальная проблема. Некоторые даже формулируют следующим образом, раньше у человека был только один вызов это его смертность. А теперь таких вызовов два - смерть и ИИ (интеллектуальная смерть человека).
На самом деле , очень большая вероятность , что мы преувеличиваем мощь эволюционного интеллекта, которым владеет человек. Машинный интеллект может быть ничуть не хуже, а возможно даже более совершенный.
И это не считая того, что это абсолютно чуждый интеллект, и с большой долей вероятности он рано или поздно станет враждебным человеку.

[bitbit97]

Спрошу в лоб - как сейчас ИИ может убить человека? Или навредить ему или его здоровью? Только давайте без фантазий типа я потерял работу из-за ии и решил свести концы с концами. Или я залез в станок, а ии решил его включить и избавиться от меня? Или кто-то верит в то, что ии где-то подпольно создает бомбу из «… и палок»? А может где-то уже Т-800 собрал и остался только чип?

[Numeral]

ИИ сегодня - это продвинутые программы, не более. И то их продвинутость зафиксирована только в определенных сферах деятельности. Сам ИИ не может же себе разрешить управлять информационной системой, отвечающей за управление каким-либо оружием. Если только человек интегрирует сам туда ИИ и направит его.

[bachichak]

Спрошу в лоб - как сейчас ИИ может убить человека? Или навредить ему или его здоровью? Только давайте без фантазий типа я потерял работу из-за ии и решил свести концы с концами. Или я залез в станок, а ии решил его включить и избавиться от меня? Или кто-то верит в то, что ии где-то подпольно создает бомбу из «… и палок»? А может где-то уже Т-800 собрал и остался только чип?

если честно, так сразу , с ходу и конкретно факты привести /показать/ не смогу.
Но, ощущение, (как в той истории) есть.
Мы и сами себя грохнем без всякого Иван Иваныча )( все к тому и идет....
По сути вопроса. Попробую... не то что бы ответить, но... так - по-рассуждаю не много
Ну как "убить" ... убивать же можно по разному...
Не, ну одно дело идешь такой себе в одной руке бутылка кефира, в другой - пол батона и тут ... харррась .... короче прихерачело /тут много версий../
Я хотел сказать, что убивать можно по разному... это как, ну... на пачке сигарет пишут "курение убивает" - по сути, кто курит - это суицид. Медленный, но ... таки да
С ИИ тема на самом деле стремная
Пойду наверна глоточек еше осуществлю чайком *** , курну и ... буду готовиться ... к новым завоеваниям )


Ну!... За Гену который берет свое (Генетику) !  (но это уже другая история..)

[owlest]

Спрошу в лоб - как сейчас ИИ может убить человека? Или навредить ему или его здоровью? Только давайте без фантазий типа я потерял работу из-за ии и решил свести концы с концами. Или я залез в станок, а ии решил его включить и избавиться от меня? Или кто-то верит в то, что ии где-то подпольно создает бомбу из «… и палок»? А может где-то уже Т-800 собрал и остался только чип?

Мы вроде бы здесь пришли ко мнению, что современный искуственный интеллект - это не интеллект, а некий алгоритм, которому дают задание, поэтому предлагаю вместо ИИ писать ИА И да, сам по себе он сегодня даже не додумается, что кожаные мешки ему представляют угрозу или что нужно стать богатым, чтобы получить власть. Пока это ему не скажет человек, очень умное и продуманное животное...

[fruktik]

fruktik Вы или очень впечатлительный, или просмотрели много фильмов или прочли много фантастики. Возможности ИИ очень и очень ограничены. Скорее нас погубит человеческая глупость, чем ИИ. Не понимаю, кто вообще начал эту панику о ИИ? Те кто потеряли работу из-за него что ли? Так на общем фоне таких не много.

Вот вы привели в пример фрагмент из х/ф Терминатор. Собрать такого робота без ведома человека невозможно. Подобное вскроется в момент доставки необходимых материалов. Максимум гадостей что можно ожидать от ИИ это шпионаж, утечки информации. Но и подобное приведет к обогащению одних за счет банкротства других. Вот и все.

Ну я же не говорю о том, что это может уже вот-вот случиться. Нет. Пройдет достаточно много времени и "машинный интеллект" начнет самостоятельно развиваться без участия человека. Разве такое невозможно? Вполне такое допускаю, т.к. к этому есть все предпосылки.

Откуда вам известно, что прям ограниченный набор функций имеется у ИИ? Возможно, что мы ничего толком и не знаем об этом, а где-то в секретной лаборатории продолжается работа по разработке, изучению этой технологии семимильными шагами.

[heyod hewow]

Сам ИИ не может же себе разрешить управлять информационной системой, отвечающей за управление каким-либо оружием. Если только человек интегрирует сам туда ИИ и направит его.

ИИ УЖЕ интегрируют в системы управления оружием и управление роями дронов. Уже есть не только прототипы, но и вполне работоспособные комплексы, которые уже выводят в "поле". Чтобы сделать оружейный или дроновый ИИ-комплекс эффективным на поле (и оправдать вложенные средства), операторы вынуждены давать ИИ довольно широкие полномочия и свободу действий по выбору целей.

Другими словами, ИИ сам в поле решает, какие цели, какими средствами поражения и в каком порядке атаковать. Конечно, у оператора все еще есть "кнопка на крайний случай", дающая возможность отключить ИИ и весь комплекс, если что-то пойдет не так... Но рано или поздно ИИ "догадается" (или ему помогут хакеры), как отключить эту кнопку. И тогда мы будем иметь феномен "страж-птицы", описанный Шекли еще в 1953 году.

[Numeral]

heyod hewow, в такие устройства на случай выхода из-под контроля нужно интегрировать систему самоотключения. А чтобы хакер дистанционно смог взломать такую штуку, она должна иметь выход в глобальную сеть или как минимум в корпоративную. Иначе ему для взлома придется иметь дело непосредственно с самим устройством напрямую.

[heyod hewow]

heyod hewow, в такие устройства на случай выхода из-под контроля нужно интегрировать систему самоотключения. А чтобы хакер дистанционно смог взломать такую штуку, она должна иметь выход в глобальную сеть или как минимум в корпоративную. Иначе ему для взлома придется иметь дело непосредственно с самим устройством напрямую.

Не вижу ничего невозможного, хакер вполне может получить прямой доступ к комплексу (например, год-два назад внедрился, прошел этапы проверки и рост по службе, заслужил доверие... в общем, обычная шпионская классика).

Что же касается интегрированной систему самоотключения - безусловно, она будет предусмотрена в любой оружейной системе с ИИ. Параллельно с этим возникают две немаленькие вероятности:

1) ИИ "дорастет" до умения самостоятельно обойти эту систему самоотключения, он в какой-то "решит", что она угрожает его целостности и угрожает срывом поставленных перед ним задач. И отключит ее сам, попутно обманув оператора - оператор будет "видеть", что система работоспособна и будет спать спокойно. ))
 
2) Банальная человеческая глупость и жадность заказчика/оператора, например в таком виде: генерал - куратор проекта спрашивает:
- это у вас что?
- это система самоотключения, тарищенерал, на всякий случай,
- отключите нах ее немедленно, вы знаете, сколько система стоила нам? Если это хрень сама убьется, нас наверху по головке не погладят, еще один ахулиард денег на новую систему никто не даст, да еще и звезды полетят с погон, за про*б ценного военного имущества..
- слушаюсь, тарищенерал, уже отключаем.
 

[Numeral]

heyod hewow, если размышлять категориями научной фантастики, то по первому пункту соглашусь. Но вот по второму нет, поскольку себестоимость этих дронов незначительная относительно бюджета ВПК, они по сути как расходники сейчас идут, с какими-то там отключениями никто заморачиваться не будет. Но, если это будет какое-то штучное дорогое устройство, тогда ваша теория может оказаться верна.

[booktiger]

Да, ИИ силён своей специализацией и механической работой. Как в данном случае - простым расчётом вариантов и выбором оптимального пути. И или запоминанием ранее сыгранных похожих партий.
    Человек берёт другим - эвристикой. В принципе, этой эвристике можно научить и машину, но сначала нужно до конца разобраться как она и у человека устроена. Такой ИИ действительно далеко шагнёт и оставит без работы множество людей. Ну или заставит их менять специализацию.

Да, человеку от природы дана свободная воля при принятии решений, и она же дает возможность творческому процессу когда будущий результат не известен или до конца очевиден. ИИ конечно сейчас создает художественные шедевры , но можно ли это назвать творческим процессом, т.к. творческий процесс еще как минимум дает некое удовлетворение творящему, т.е. присутствие эмоций, переживаний, вдохновений -  все это важная составляющая творческого процесса.
Эвристический анализ тоже из области творчества, хотя некоторые антивирусы, в которых есть функция эвристического анализа, тоже получаются творцы