Искусственный интеллект

[fgh]

Проблема в что  что бинарная система знает только ДА или НЕТ, а состяоние НЕИЗВЕСТНО (или не да ни нет) - для нее абсолютно неизвестно ! Были тернарные системы, они поинтереснее, но сложнее в реализации. Кстати тернарная система самая оптимальная с точки зрения "упаковки данных" и дает реальный прирост производительности вычислений. Но пока, тернарная логика реализуется через бинарную, приводя к модели (-1, 0, 1), что не совсем верно

Как по мне, бинарная логика сама по себе ущербна. И да, есть много промежуточных состояний истинности за пределами двух состояний бинарной логики. Ты упомянул про состояние "Неизвестно", а я бы упомянул ещё более интересное состояние "Неизвестно, известно или нет". 
А как узнать известно или нет для ИИ тоже может быть неизвестно).

[DrBeer]

Проблема в что  что бинарная система знает только ДА или НЕТ, а состяоние НЕИЗВЕСТНО (или не да ни нет) - для нее абсолютно неизвестно ! Были тернарные системы, они поинтереснее, но сложнее в реализации. Кстати тернарная система самая оптимальная с точки зрения "упаковки данных" и дает реальный прирост производительности вычислений. Но пока, тернарная логика реализуется через бинарную, приводя к модели (-1, 0, 1), что не совсем верно

Как по мне, бинарная логика сама по себе ущербна. И да, есть много промежуточных состояний истинности за пределами двух состояний бинарной логики. Ты упомянул про состояние "Неизвестно", а я бы упомянул ещё более интересное состояние "Неизвестно, известно или нет". 
А как узнать известно или нет для ИИ тоже может быть неизвестно).

Она не ущербна и не идеальна. Она родилась для определенной цели - ВЫЧИСЛЕНИЙ, и реализации алгоритмистики. Поэтому такая как есть. Есть кстати не только тернарные системы, есть например аналогововые вычисления и у них есть свои преимущества, хотя на фоне цифры, недостатков больше.. Или правильнее так - у бинарных вычислений - больше преимуществ.
Кстати бинарное мировосприятие - часть нашей жизни и даже не все люди могут вопринимать мир и события "в полутонах".

ПС "Неизвестно, известно или нет" - хорошо описывается тернарной логикой, но не описывается (на уровне концепции) бинарной или аналогичной, т.к. две последние работаю по принципу есть сигнал или нет, или какой его уровень. Т.е. бинар и аналог может "эмулировать" тернарную логику, но это немного другое

[Etranger]

Кстати бинарное мировосприятие - часть нашей жизни и даже не все люди могут вопринимать мир и события "в полутонах".

Это является основой для самых различных манипуляций. Бинарное мышление было присуще человеку в эпоху синкретизма, когда человек не отделял себя от окружающей среды, когда он не был субъектом, по сути. Людей, мыслящих бинарно, очень легко настроить на то или иное мышление, они больше других подвластны пропаганде. Думаю, с ИИ ситуация по-другому обстоит, конечно, там бинарность - часть развития технологии. Но на ней дело не остановится, я считаю.

[heyod hewow]

Появилась нейронка TANGO , позволяющая создавать реалистичные видео с природными жестами.
https://pantomatrix.github.io/TANGO/
Загружаете видеореференс и свое аудио, а модель генерирует не только движение губ, но и реалистичные жесты, соответствующие ритму и темпу аудио.
Это проект с открытым исходным кодом, поддерживаемый бесплатным графическим процессором L40S от Hugging Face.

[fgh]

Появилась нейронка TANGO , позволяющая создавать реалистичные видео с природными жестами.
https://pantomatrix.github.io/TANGO/
Загружаете видеореференс и свое аудио, а модель генерирует не только движение губ, но и реалистичные жесты, соответствующие ритму и темпу аудио.
Это проект с открытым исходным кодом, поддерживаемый бесплатным графическим процессором L40S от Hugging Face.

Я недавно видел новость об одной интересной приблуде. Смысл её в чём: он позволяет "озвучивать" домашних животных. На пушистого одевается специальный ошейник со свтроенным ИИ, который как-то анализирует жесты и мимику животного, интерпретирует её и на основе этого генерирует голосом смысл этих жестов. Выглядит прикольно.

[DrBeer]

Кстати бинарное мировосприятие - часть нашей жизни и даже не все люди могут вопринимать мир и события "в полутонах".

Это является основой для самых различных манипуляций. Бинарное мышление было присуще человеку в эпоху синкретизма, когда человек не отделял себя от окружающей среды, когда он не был субъектом, по сути. Людей, мыслящих бинарно, очень легко настроить на то или иное мышление, они больше других подвластны пропаганде. Думаю, с ИИ ситуация по-другому обстоит, конечно, там бинарность - часть развития технологии. Но на ней дело не остановится, я считаю.

С точки зрения манипуляций массами, массы с бинарным мышлением - идеальная почва для реализации планов "кукловодов", точнее рулящих "бинароменталами" (с) мой
Поэтому для ВЛАСТИ выгодны люди у которых "это хороший парень, а этот редиска" легко ложится в мозг, и для  такой массовки не требуется дополнительных усилий чтобы они сделали "правильный выбор". Умный человек, без бинарного мировоззрения начнет "нудить" - а чего это ? А почему ? А приведите доказательства ? А у меня ДРУГОЙ ВЗГЛЯД НА СИТУАЦИЮ.... Короче - горе от ума, в чужих головах

[heyod hewow]

Я недавно видел новость об одной интересной приблуде. Смысл её в чём: он позволяет "озвучивать" домашних животных. На пушистого одевается специальный ошейник со свтроенным ИИ, который как-то анализирует жесты и мимику животного, интерпретирует её и на основе этого генерирует голосом смысл этих жестов. Выглядит прикольно.

Наверное это вот эта новость:

Джон Макхейл, «технарь» из Остина, штат Техас, владеет компанией Personifi AI. Первый шаг на данный момент — домашние животные. На ошейнике этой компании есть динамик; поговорите со своим питомцем (или, на самом деле, поговорите с ошейником), и вы услышите заранее записанный человеческий голос, отвечающий вам, создавая иллюзию того, что у вашего питомца есть человеческая личность и способность говорить по-английски. Ошейник пока предназначен только для кошек и собак, но Макхейл надеется заняться носимыми устройствами для других животных и, в конечном итоге, для людей.

Идея говорящего ошейника пришла Макхейлу после того, как его собаку Роско укусила гремучая змея. Макхейл не сразу понял, что произошло, пока несколько часов спустя Роско не начал чувствовать себя очень плохо. Не волнуйтесь, Роско выжил и сейчас чувствует себя прекрасно, но ему пришлось провести 10 дней в ветеринарной клинике, пребывание в которой, предположительно, привело к большому счету за ветеринарное обслуживание. Эта мучительная ситуация, когда он был на волоске, застряла в памяти Макхейла, и он задавался вопросом, как все могло бы сложиться иначе. Мог ли он помочь Роско раньше, если бы собака просто смогла рассказать ему, что случилось? Так родилась идея гаджета.

Ошейник называется Shazam, хотя он не имеет никакого отношения ни к фильмам о супергероях , ни к очень известному сервису поиска музыки с таким же названием. Shazam (для домашних животных) имеет внутри и микрофон, и динамик, что позволяет гаджету слышать ваш голос и отвечать своим собственным. Идея заключается в том, чтобы заставить владельцев чувствовать, что они разговаривают со своим питомцем, когда на самом деле они разговаривают с чат-ботом на ошейнике.
https://www.wired.com/story/shazam-talking-pet-collar-a-chatbot-for-your-cat-or-dog/

[fgh]

Ошейник пока предназначен только для кошек и собак, но Макхейл надеется заняться носимыми устройствами для других животных и, в конечном итоге,   для людей.

Штош, давно ожидаемая приблуда.) Для людей-то оно явно не хватало. А то всё собаки, кошечки, хомяки да шиншиллы, да прочее зубастое-клыкастое-шерстяное. Пора, понимаешь, к натуральным людям переходить. Нет, к глухонемым, которые не владеют языком жестов это тоже применимо. А можно и на рабов в цифровом концлагере. Рот зашить и пущщай ошейник мысли озвучивает.

[DrBeer]

Я недавно видел новость об одной интересной приблуде. Смысл её в чём: он позволяет "озвучивать" домашних животных. На пушистого одевается специальный ошейник со свтроенным ИИ, который как-то анализирует жесты и мимику животного, интерпретирует её и на основе этого генерирует голосом смысл этих жестов. Выглядит прикольно.

Наверное это вот эта новость:

Джон Макхейл, «технарь» из Остина, штат Техас, владеет компанией Personifi AI. Первый шаг на данный момент — домашние животные. На ошейнике этой компании есть динамик; поговорите со своим питомцем (или, на самом деле, поговорите с ошейником), и вы услышите заранее записанный человеческий голос, отвечающий вам, создавая иллюзию того, что у вашего питомца есть человеческая личность и способность говорить по-английски. Ошейник пока предназначен только для кошек и собак, но Макхейл надеется заняться носимыми устройствами для других животных и, в конечном итоге, для людей.

Идея говорящего ошейника пришла Макхейлу после того, как его собаку Роско укусила гремучая змея. Макхейл не сразу понял, что произошло, пока несколько часов спустя Роско не начал чувствовать себя очень плохо. Не волнуйтесь, Роско выжил и сейчас чувствует себя прекрасно, но ему пришлось провести 10 дней в ветеринарной клинике, пребывание в которой, предположительно, привело к большому счету за ветеринарное обслуживание. Эта мучительная ситуация, когда он был на волоске, застряла в памяти Макхейла, и он задавался вопросом, как все могло бы сложиться иначе. Мог ли он помочь Роско раньше, если бы собака просто смогла рассказать ему, что случилось? Так родилась идея гаджета.

Ошейник называется Shazam, хотя он не имеет никакого отношения ни к фильмам о супергероях , ни к очень известному сервису поиска музыки с таким же названием. Shazam (для домашних животных) имеет внутри и микрофон, и динамик, что позволяет гаджету слышать ваш голос и отвечать своим собственным. Идея заключается в том, чтобы заставить владельцев чувствовать, что они разговаривают со своим питомцем, когда на самом деле они разговаривают с чат-ботом на ошейнике.
https://www.wired.com/story/shazam-talking-pet-collar-a-chatbot-for-your-cat-or-dog/

Вот чтото мне подсказывает что Макхейл не только "технарь" но и ... как бы так помягче... пусть будет задорный фантазер
Межвидовое взаимодействие, как по мне вопрос из области "а нам кажется что они сказали это" но не более того. Да собаки понимаю команды к которым их приучили - т.е. звук и действие которое надо выполнить, т.е. это не осознание сути команды, а просто сопоставление набора звуков и того что человек "показал делать". Как мыслят собаки и какие сущностями оперируют - нам не известно, поэтому мы можем также услышать звук, отследить что он сделает, и на повторяющихся пар "звук-действие", придумать "перевод"

[fgh]

Вот чтото мне подсказывает что Макхейл не только "технарь" но и ... как бы так помягче... пусть будет задорный фантазер
Межвидовое взаимодействие, как по мне вопрос из области "а нам кажется что они сказали это" но не более того. Да собаки понимаю команды к которым их приучили - т.е. звук и действие которое надо выполнить, т.е. это не осознание сути команды, а просто сопоставление набора звуков и того что человек "показал делать". Как мыслят собаки и какие сущностями оперируют - нам не известно, поэтому мы можем также услышать звук, отследить что он сделает, и на повторяющихся пар "звук-действие", придумать "перевод"

Разумеется, это просто "очень вольный перевод" собачачьих эмоций на человеческий язык. Мыслей как таковых там очень мало. В основном эмоции, "чувства" и чувства в смеси с междометьями. Так вроде слава богу создатели ошейника не позиционируют себя учёными и не предполагают строго научного отношения к ошейнику. Это развлекалово, один большой прикол, чтобы посмеятся над брятьями меньшими в хорошем смысле.
   Как-то смотрел интервью Юрия Соломина, там он утверждал интересную вещь: животные в отличие от людей не могут имитировать эмоции. Почти всё остальное так или иначе умеют, только в меньшем масштабе.

[heyod hewow]

Вот чтото мне подсказывает что Макхейл не только "технарь" но и ... как бы так помягче... пусть будет задорный фантазер
Межвидовое взаимодействие, как по мне вопрос из области "а нам кажется что они сказали это" но не более того. Да собаки понимаю команды к которым их приучили - т.е. звук и действие которое надо выполнить, т.е. это не осознание сути команды, а просто сопоставление набора звуков и того что человек "показал делать". Как мыслят собаки и какие сущностями оперируют - нам не известно, поэтому мы можем также услышать звук, отследить что он сделает, и на повторяющихся пар "звук-действие", придумать "перевод"

Разумеется, это просто "очень вольный перевод" собачачьих эмоций на человеческий язык. Мыслей как таковых там очень мало. В основном эмоции, "чувства" и чувства в смеси с междометьями. Так вроде слава богу создатели ошейника не позиционируют себя учёными и не предполагают строго научного отношения к ошейнику. Это развлекалово, один большой прикол, чтобы посмеятся над брятьями меньшими в хорошем смысле.
   Как-то смотрел интервью Юрия Соломина, там он утверждал интересную вещь: животные в отличие от людей не могут имитировать эмоции. Почти всё остальное так или иначе умеют, только в меньшем масштабе.

А я думаю, что это хорошая вещь, всем приносит радость: владельцам собакенов и самим собакенам (или котанам) тож, потому что владельцы будут больше уделять времени своим питомцам - а этом им только в радость. Да и сам стартапер заработает денег. А учОные пусть себе спорят, есть мысли у братьев наших меньших или нет, им за это тоже денег платят, в смысле ученым. ))

[DrBeer]

Вот чтото мне подсказывает что Макхейл не только "технарь" но и ... как бы так помягче... пусть будет задорный фантазер
Межвидовое взаимодействие, как по мне вопрос из области "а нам кажется что они сказали это" но не более того. Да собаки понимаю команды к которым их приучили - т.е. звук и действие которое надо выполнить, т.е. это не осознание сути команды, а просто сопоставление набора звуков и того что человек "показал делать". Как мыслят собаки и какие сущностями оперируют - нам не известно, поэтому мы можем также услышать звук, отследить что он сделает, и на повторяющихся пар "звук-действие", придумать "перевод"

Разумеется, это просто "очень вольный перевод" собачачьих эмоций на человеческий язык. Мыслей как таковых там очень мало. В основном эмоции, "чувства" и чувства в смеси с междометьями. Так вроде слава богу создатели ошейника не позиционируют себя учёными и не предполагают строго научного отношения к ошейнику. Это развлекалово, один большой прикол, чтобы посмеятся над брятьями меньшими в хорошем смысле.
   Как-то смотрел интервью Юрия Соломина, там он утверждал интересную вещь: животные в отличие от людей не могут имитировать эмоции. Почти всё остальное так или иначе умеют, только в меньшем масштабе.

1.Согласен, объективно невозможно определить именно содержимое мысли собаки которая озвучивает свои чувства. У меня 2 лохматых-ушастых-носатых живет, так вот я только ситуативно могу понять какие чувства они испытвают, т.к. даже скулеж может быть как проявлением боли, дискомфорта, "страдания на публику" для привлечения внимания, н или просто - взгруснулось
А выражения лиц, это вообще отдельная история.

Например вот такое делает когда без нее чтото едят - на лице ярко выраженное не понимание и претензия



2. Я кстати когда то уже писал что одна из особенностей человеческого вида - это умышленная ложь, или имитация чувств для манипуляций. Животные в этом смысле более честные.

[heyod hewow]

Anthropic: ИИ способен устроить человечеству «саботаж» и скрывать истинные намерения

Аналитики ИИ-стартапа Anthropic опубликовали результаты исследования, в рамках которого проанализировали ряд диверсионных угроз со стороны искусственного интеллекта. Эксперты считают, что продвинутые модели ИИ могут вводить человека в заблуждение. Отчет посвящен четырем конкретным способам, которые вредоносная LLM может использовать для обмана людей.

– В первом случае аналитики попросили ИИ саботировать принятие человеком решений, предоставляя ему неверную информацию.
– Во втором варианте модель, созданная для помощи программистам, тайно создавала ошибки в коде, чтобы привести ПО в нерабочее состояние. Эту задачу ИИ также успешно выполнил.
- Следующий метод связан с так называемой «подтасовкой». При этом сценарии ИИ пытался убедить аналитиков, что вредные операции не представляют опасности.
– Последняя угроза представляет собой ситуацию, когда ИИ-модель намеренно пропускает в компьютерную систему вирус, скрывая эту информацию от человека.

В ходе анализа эксперты пришли к выводу, что ChatGPT от OpenAI и Claude-3 от Anthropic демонстрируют способности к саботажу. Однако на текущем этапе развития Больших Языковых Моделей для исправления ситуации достаточно принять минимальные меры безопасности.

[DrBeer]

Anthropic: ИИ способен устроить человечеству «саботаж» и скрывать истинные намерения

Аналитики ИИ-стартапа Anthropic опубликовали результаты исследования, в рамках которого проанализировали ряд диверсионных угроз со стороны искусственного интеллекта. Эксперты считают, что продвинутые модели ИИ могут вводить человека в заблуждение. Отчет посвящен четырем конкретным способам, которые вредоносная LLM может использовать для обмана людей.

– В первом случае аналитики попросили ИИ саботировать принятие человеком решений, предоставляя ему неверную информацию.
– Во втором варианте модель, созданная для помощи программистам, тайно создавала ошибки в коде, чтобы привести ПО в нерабочее состояние. Эту задачу ИИ также успешно выполнил.
- Следующий метод связан с так называемой «подтасовкой». При этом сценарии ИИ пытался убедить аналитиков, что вредные операции не представляют опасности.
– Последняя угроза представляет собой ситуацию, когда ИИ-модель намеренно пропускает в компьютерную систему вирус, скрывая эту информацию от человека.

В ходе анализа эксперты пришли к выводу, что ChatGPT от OpenAI и Claude-3 от Anthropic демонстрируют способности к саботажу. Однако на текущем этапе развития Больших Языковых Моделей для исправления ситуации достаточно принять минимальные меры безопасности.

Насколько я понимаю, это возможность систем сделать неправомерные действия по требованию пользователя, но не самостоятельное принятие решений и умышленное поведение самого т.н. "ИИ".

[heyod hewow]

Насколько я понимаю, это возможность систем сделать неправомерные действия по требованию пользователя, но не самостоятельное принятие решений и умышленное поведение самого т.н. "ИИ".

Да, верно, пока что подобные безобразия ИИ творил по требованию оналитиков из Anthropic (статья на аглицком по ссылке в моем предыдущем посте). До самостоятельного принятия решений и умышленного поведения самого т.н. ИИ еще вроде не дошло. Но недалек тот день... Ну или, по крайней мере, уже сейчас есть возможность заставить ИИ устраивать диверсии этих четырех типов с помощью людей-операторов, даже мамкиных кулхацкеров.