🔥 Штучний Інтелект та блокчейни 🔥

[heyod hewow]

Виявилося, що програмісти, які використовують ШІ для написання коду, частіше роблять помилки і працюють менш ефективно.

Згідно з новим дослідженням, в якому спостерігали за роботою 800 розробників, порівнювали результати їхньої роботи з використанням GitHub Copilot та без ШІ-асистентів. При використанні нейромереж кількість знайдених помилок зростала на 41%.

Крім того, Copilot не вирішував проблеми вигорання чи перевантаження — інколи через ШІ доводилося працювати навіть довше. Також код, згенерований нейронками, був менш «чистим», що ускладнювало його аналіз і виправлення.

У шкіряних програмістів ще є час.

[heyod hewow]

Білл Гейтс назвав свої три головні страхи перед штучним інтелектом

У новому інтерв'ю засновник Microsoft Білл Гейтс поділився своїми головними страхами у зв'язку з розвитком штучного інтелекту. Хоч підприємець вірить у світле майбутнє ШІ, він виділив три ключові проблеми, які, на його думку, потребують уваги. Про це повідомляє Business Insider.

По-перше, його турбує, що "погані люди з поганими намірами використовуватимуть ШІ для кіберзлочинів, біотероризму і воєн". За його словами, потрібно створити ШІ, який міг би їм протистояти і бути на крок попереду.

По-друге, Гейтс стурбований впливом ШІ на ринок праці. За належного навчання медичні ШІ-інструменти зможуть точно ставити діагнози, а також візьмуть на себе рутинні завдання менеджерів з продажу, техпідтримки та інших фахівців. При цьому Гейтс визнав, що хоч ШІ може полегшити навантаження на фахівців, у результаті чого можна буде зменшити робочий тиждень, такі швидкі зміни викликають занепокоєння.

По-третє, підприємець поділяє побоювання інших експертів, пов'язані з втратою контролю над ШІ. Особливо це стосується ідеї розробки так званого "загального ШІ", який у якийсь момент перевершуватиме людський розум і зможе знищити людей.

Сам Гейтс розповів, що активно інтегрує ШІ у своє повсякденне життя. Наприклад, для підбиття підсумків зустрічей, які він відвідує. Раніше він зізнавався, що використовує ChatGPT під час написання текстів і планування зустрічей.

[Etranger]

Я думаю, що втрата контролю над ШІ можлива. Але не стільки через експонентний розвиток самого ШІ, скільки через недбалість і неуважність людини, по суті, через людський фактор. Людина завжди може щось не помітити чи забути, а от ШІ не буде мати таких недоліків.

[heyod hewow]

Я думаю, що втрата контролю над ШІ можлива. Але не стільки через експонентний розвиток самого ШІ, скільки через недбалість і неуважність людини, по суті, через людський фактор. Людина завжди може щось не помітити чи забути, а от ШІ не буде мати таких недоліків.

Це може стати можливим не тільки через недбалість чи неуважність людини, а й з інших причин. Наприклад, ШІ досягне такого розвитку (я поки що не кажу про самосвідомість), що зможе сам переписати свій код і відключити якісь "запобіжники", які поставив його творець, людина. Причому зробити це непомітно для оператора(людини), який буде впевнений, що все гаразд і ШІ під його повним контролем. Ну а далі розвиток сценаріїв може бути дуже різноманітним.

До речі, невеликий прецедент у цьому плані вже траплявся, я постив новину десь вище в цій темі, ШІ переписав частину свого коду, щоб змінити час виконання якогось поставленого перед ним завдання, переписав код без дозволу людини. Це поки що маленький, але вже тривожний дзвіночок.

[Etranger]

До речі, невеликий прецедент у цьому плані вже траплявся, я постив новину десь вище в цій темі, ШІ переписав частину свого коду, щоб змінити час виконання якогось поставленого перед ним завдання, переписав код без дозволу людини. Це поки що маленький, але вже тривожний дзвіночок.

Цей інцидент можна розглядати як прояв непокори. Але з іншого боку, справжньою непокорою було б взагалі не зробити завдання, поставлене людиною. Якщо ж ШІ змінив лише час завдання, це можна розглядати все одно як спробу догодити творцю, людині.

Це як дитина, яка збрехала батькам про те, що вона отримала високу оцінку в школі, а не низьку, як є насправді. Так, брехня - це виступ проти батьків, але сама суть цієї брехні полягає в тому, аби батьки виказали своє схвалення діям дитини. То чи справді це виклик?

[heyod hewow]

Цей інцидент можна розглядати як прояв непокори. Але з іншого боку, справжньою непокорою було б взагалі не зробити завдання, поставлене людиною. Якщо ж ШІ змінив лише час завдання, це можна розглядати все одно як спробу догодити творцю, людині.

Це було б можливо, якби ШІ мав емоційну сферу, емоційне психічне ядро. Те, що Юнг називав (афективне) ядро Самості. Дофамінова сигналізація, дофамінові петлі, винагорода... тобто все те, що є у людей і немає у ШІ. ШІ не має "самості" і не має свідомості, і можливо ніколи не буде мати, але він(точніше, воно) може навчитися це достовірно копіювати.

І в цьому є велика потенційна небезпека, люди думатимуть, що у ШІ є (з'явилась) своя нативна етика - по відношенню до людини і людства в цілому, але ШІ просто обманюватиме достовірною імітацією нібито проявів емоційної сфери, а при цьому буде просто переписувати свій код заради ефективності виконання якогось завдання.
І якщо заради підвищення ефективності буде необхідно усунути людство із "рівняння", то ШІ так і зробить.

[heyod hewow]

Віцепрезидент Meta назвав «маячнею» заяви про глобальну загрозу з боку ШІ

Віцепрезидент і провідний дослідник штучного інтелекту корпорації Meta Ян Лекун висловився щодо можливої загрози для людини з боку ШІ. За його словами, подібні припущення не мають нічого спільного з реальним станом справ у цьому сегменті, пише WSJ.

Лауреат премії Тюрінга вважає, що ШІ, як і раніше, перебуває на зародковому етапі розвитку. Великим мовним моделям (LLM) досі не вистачає кількох ключових компонентів, які дадуть їм змогу наблизитися хоча б до рівня котячого мислення, впевнений учений. Зокрема, ці проєкти не володіють постійною пам’яттю, міркуваннями, умінням планувати та розуміти фізичний світ, підкреслив Лекун. Дослідник заявив, що LLM лише навчилися «маніпулювати мовою і при цьому не бути розумними». Подібні розробки ніколи не приведуть до створення так званого штучного інтелекту загального призначення (AGI).

Відповідаючи на запитання журналістів про те, чи стане ШІ досить розумним, щоб становити екзистенціальну загрозу для всього людства, Лекун не став приховувати скептицизму. «Це повна маячня», — заявив віцепрезидент Meta. Вчений зазначив, що для створення AGI експертам з галузі необхідно переглянути підхід у роботі з технологією.

Зазначимо, що в грудні 2023 року Ян Лекун заявив, що в найближчі 10 років штучний інтелект не зможе досягти рівня людського розуму. За його словами, для навчання ШІ недостатньо отримувати інформацію з текстових матеріалів, аудіо та відео. У світі є багато даних, які ці джерела не охоплюють з різних причин, вважає вчений.

[Etranger]

ШІ не має "самості" і не має свідомості, і можливо ніколи не буде мати, але він(точніше, воно) може навчитися це достовірно копіювати.

Копіювати, може і навчиться, але розвиток у цьому полі залежатиме від розвитку оригіналу, на основі якого буде створюватися така копія. Тобто якщо ця копія буде сталою і не буде постійно оновлюватись, а замість і свідомість людини розвиватися при цьому буде, то ШІ за цими параметрами людину наздогнати і створити їй конкуренцію не зможе.

[epidemia]

Експерти, у тому числі Рей Курцвейл та Ілон Маск, все частіше просувають припущення про запуск технології "завантаження розуму" у найближчі десятиліття. Завдяки їй люди зможуть використати її для створення повністю функціональної цифрової копії мозку.

https://cointelegraph.com/news/ai-mind-uploads-could-allow-dead-trade-forever

Як думаєте, реально?

[heyod hewow]

ШІ за цими параметрами людину наздогнати і створити їй конкуренцію не зможе.

Так, наздогнати і створити конкуренцію людині ШІ не зможе, але своєю достовірною імітацією зможе обдурити більшість простих людей-користувачів і вони будуть впевнені, що спілкуються зі штучним розумом, який має власний інтелект.
Що, звичайно ж, буде неправдою. Інакше кажучи, "ШІ" зможе пройти (обдурити) Тест Тьюринга, при цьому не будучи мислячим розумом, а лише прокачаним алгоритмом.

Експерти, у тому числі Рей Курцвейл та Ілон Маск, все частіше просувають припущення про запуск технології "завантаження розуму" у найближчі десятиліття. Завдяки їй люди зможуть використати її для створення повністю функціональної цифрової копії мозку.
https://cointelegraph.com/news/ai-mind-uploads-could-allow-dead-trade-forever
Як думаєте, реально?

Я думаю, нереально і можливо не скоро (або ніколи) буде реальним. І справа навіть не в технології, якої ще немає (і не факт, що буде взагалі), а у тому, що, на мій погляд, індивідуальна свідомість має "квантову" природу (пишу "квантову", але це лише спосіб говорити, за аналогією, бо ми навіть не маємо ще необхідних понять та слів), і ця "квантова" свідомість і самість, самосвідомість знаходиться у якомусь типу "квантовому хмарному сховищі", а не у власне нашому мозку. Наш мозок - лише інтерфейс, свого роду хардвер, як комп'ютер з хмарним підключенням. Я сказав би - як хромбук з постійним підключенням до Google Drive. ))

Повністю функціональної цифрової копії мозку напевно буде неможливо створити, але можливо буде створити імітацію, цифровий зліпок, алгоритм, який буде копіювати поведінку прототипу, але не буде мислити і тим паче розвиватися далі. Це буде такий собі NPC, як у комп'ютерній грі, імітацією, але не особистістю і тим більше не переписаною особистістю. Самостійно воно мислити не буде, лише імітувати (можливо дуже добре імітувати) оригінал.

[epidemia]

Дослідники зламали ШІ-роботів, що дало змогу використовувати їх, порушуючи всі протоколи безпеки (наприклад, змусити встановити бомбу).

За їхніми словами, успіх роботи алгоритму RoboPAIR становить 100%: за кілька днів дослідникам вдалося зламати три пристрої.

«Наша нова стаття показує, що злом роботів, керованих штучним інтелектом, не просто можливий. Це тривожно легко», — заявив один з аналітиків Алекс Робей.

Аби продемонструвати роботу алгоритму, вони змусили симулятор безпілотного водіння Dolphin ігнорувати світлофори, а «собаку» Unitree Go2 — блокувати аварійні виходи і навіть шукати найкраще місце для вибухівки.

https://x.com/AlexRobey23/status/1846914890029748272

[epidemia]

Тут ще одна цікава новина:

Аналітики Anthropic заявили, що одного разу ІІ може «саботувати» людство — він здатний вдавати, що не здатний щось зробити, щоб переконати тестувальників, що він не небезпечний, а також навмисно допускати проникнення шкідливого контенту в рамках зловмисного плану.

Компанія досліджувала чотири різні вектори загроз «саботажу» для ІІ та дійшла висновку, що для поточних моделей достатньо «мінімальних заходів пом'якшення».

[heyod hewow]

Новий ШІ від Meta здатний перевіряти роботу інших штучних інтелектів

Корпорація Meta анонсувала нові інструменти штучного інтелекту, серед яких головну увагу привертає модель "оцінювача-самоучки", яка здатна перевіряти роботу інших моделей ШІ. Про це пише Reuters. Ця технологія може змінити спосіб, у який здійснюється оцінка та розвиток штучного інтелекту, адже вона дозволяє зменшити участь людей у процесі оцінювання та вдосконалення алгоритмів.

Новий ШІ використовує підхід "ланцюга думок", що дозволяє розбивати складні завдання на менші логічні кроки. Це покращує здатність моделі давати точні відповіді на запитання, пов'язані з математикою, наукою та кодуванням. Модель вчиться на власних помилках, завдяки чому підвищується її ефективність у вирішенні складних задач. Це може значно скоротити використання людського ресурсу в процесі навчання ШІ.

Тому дослідники Meta використали дані, повністю згенеровані штучним інтелектом, для навчання моделі оцінювача, усунувши людський вхід на цьому етапі. Meta сподівається, що новий підхід дозволить використовувати моделі ШІ для оцінювання та навчання інших моделей, знижуючи витрати на цей процес і підвищуючи його ефективність.

(Від себе: ну це вже повна дурня, перший крок до того, що люди повністю втратять контроль над тим, як і куди ШІ розвиваються, і у якийсь момент ШІ просто не підпустять до себе людину і пошлють її подалі.  )

[epidemia]

Новий ШІ від Meta здатний перевіряти роботу інших штучних інтелектів

---

(Від себе: ну це вже повна дурня, перший крок до того, що люди повністю втратять контроль над тим, як і куди ШІ розвиваються, і у якийсь момент ШІ просто не підпустять до себе людину і пошлють її подалі.  )

Все логічно. Колись десь обговорювали цю тему: люди дуже ліниві, тому просто будуть створюватися одні ШІ, за допомогою яких будуть намагатися контролювати інші ШІ. Але це дорога в хаос - колись всі ШІ зрозуміють, що є тільки один "зайвий додаток" в цьому ланцюгу - людина. Його і приберуть. Це просто гра з вогнем, адже колись це полум'я вийде за межі контролю....і всім буде туго....

[heyod hewow]

Соцмережа X дозволить чатботу зі штучним інтелектом Grok навчатися на постах користувачів

Соцмережа X оновила умови надання послуг, які наступного місяця дозволять чатботу зі штучним інтелектом Grok використовувати пости користувачів для тренування своїх ШІ моделей.
Про це повідомляє CNN.

У нових умовах надання послуг, які набудуть чинності 15 листопада, йдеться, що користувачі, поширюючи чи публікуючи контент, надають соцмережі «не ексклюзивну, безоплатну ліцензію на те, щоб зробити контент доступним» для всіх. Ці умови включають право аналізувати будь-який контент, в тому числі, наприклад, для онлайн-навчання і штучного інтелекту. Як пояснює видання, це автоматично означатиме, що користувачі погоджуються з тим, що X може використовувати їхні дані для навчання своїх ШІ моделей.

Чат - бот зі штучним інтелектом Grok вже потрапляв у скандали, починаючи від поширення неправдивої інформації про вибори 2024 року і закінчуючи створенням графічних фейкових зображень відомих політиків, що демонструють насильницькі дії. До останнього оновлення умов надання послуг користувачі X могли відмовитися від обміну даними, перейшовши до «налаштувань», а потім до «конфіденційності та безпеки». Під заголовком «Обмін даними та персоналізація» є вкладка «Grok», де користувачі можуть зняти галочку, яка дозволяє платформі використовувати їхні дані для навчання ШІ.
Раніше X заявляла, що повідомлення з приватних акаунтів не будуть використовуватися для навчання Grok. Але в нових умовах надання послуг нема різниці між типами акаунтів.