Искусственный интеллект

[heyod hewow]

И тут возникает проблема: если его написал ИИ, то он в детекторе отображается как сгенерированный, а довести его до человеческого очень сложно. Также наверное скоро будет и с изображениями.

Так не скоро, а уже. ИИшные картинки детекторятся на раз. Слышал, многие графические художники идут на хитрость (если в техзадании есть задание , что работа не должна быть сгенерирована нейрушками) - генерят мидджорнями, а потом уже "ручками" доводят до "человечности", чтобы работа детект прошла. Но на это недюжинный талант нужон. Да и время тоже. В общем, от конкретного артиста все зависит, его скиллов - как он с этим справляется, ну и от жесткости требований заказчика, конечно.

[DrBeer]

И тут возникает проблема: если его написал ИИ, то он в детекторе отображается как сгенерированный, а довести его до человеческого очень сложно. Также наверное скоро будет и с изображениями.

Так не скоро, а уже. ИИшные картинки детекторятся на раз. Слышал, многие графические художники идут на хитрость (если в техзадании есть задание , что работа не должна быть сгенерирована нейрушками) - генерят мидджорнями, а потом уже "ручками" доводят до "человечности", чтобы работа детект прошла. Но на это недюжинный талант нужон. Да и время тоже. В общем, от конкретного артиста все зависит, его скиллов - как он с этим справляется, ну и от жесткости требований заказчика, конечно.

У меня есть устойчивое предположение, что весь медиа-контент который генерится "ИИ" (фото-видео-звук), имеет встроенные маркеры, которые позволяют даже без алгоритмических методов узнать "кто это сделал" десяток байт скрыть в изображении или звуке - не сильно большая проблема. Стеганография легко показывает как это сделать и сделать так чтобы не понять что там есть чтото кроме ожидаемого "контента"

[owlest]

Добавлю еще - если лишить, так сказать ИИ, данные которые сгенерировали люди - это будет... не будет ИИ Сам он не умеет создавать, он имеет огромную базу знаний, и данных, из которых лепит ответы. Но это все на основе человеческого опыта, который СОЗДАЛИ люди но не "ИИ". ИИ пока САМ ничего не создал...

Если разработкой увлекаешься - phind.com, не реклама, а для расширения кругозора

Кстати, насчет ИИ и его обучения. Вчера прочитал такое мнение, что чем дальше ИИ будет учиться и совершенствоваться на данных из интернета, тем он тупее будет становится и в итоге убьёт сам себя. А причина проста: сейчас много людей генерирует контент за счет ИИ, который не умеет проверять подлинность, более того, сам иногда что-то выдумывает свое. Вот благодаря таким ошибкам, ИИ как говорится, сам себя сведет в могилу.

[fgh]

И тут возникает проблема: если его написал ИИ, то он в детекторе отображается как сгенерированный, а довести его до человеческого очень сложно. Также наверное скоро будет и с изображениями.

Так не скоро, а уже. ИИшные картинки детекторятся на раз. Слышал, многие графические художники идут на хитрость (если в техзадании есть задание , что работа не должна быть сгенерирована нейрушками) - генерят мидджорнями, а потом уже "ручками" доводят до "человечности", чтобы работа детект прошла. Но на это недюжинный талант нужон. Да и время тоже. В общем, от конкретного артиста все зависит, его скиллов - как он с этим справляется, ну и от жесткости требований заказчика, конечно.

Получается, что вот вам ИИ ещё одну профессию сгенерировал: обходильщик пробивальщиков нейросеток). А по факту вокруг нейросетей наверняка ещё масса профессий генерится, о которых мы ещё не знаем или не догадываемся. Человек здесь силой своего немеханического интеллекта закрывает некую "ходульность" интеллекта нейросетевого.

[heyod hewow]

У меня есть устойчивое предположение, что весь медиа-контент который генерится "ИИ" (фото-видео-звук), имеет встроенные маркеры, которые позволяют даже без алгоритмических методов узнать "кто это сделал" десяток байт скрыть в изображении или звуке - не сильно большая проблема. Стеганография легко показывает как это сделать и сделать так чтобы не понять что там есть чтото кроме ожидаемого "контента"

Вот кстати да, меня тоже посещала эта мысль - по аналогии с производителями веществ, которые умеют бадабумс, каждый завод добавляет свой собственный химический маркер, который обнаруживается даже в мельчайших частицах на месте, так сказать, бавовны, и позволяет специалистам установить, продукцию какого завода использовали.
А встроить маркер на десяток-два байт в любую генерацию от ИИ еще проще.

Получается, что вот вам ИИ ещё одну профессию сгенерировал: обходильщик пробивальщиков нейросеток).

Очень креативная мысль. Будет востребованная профессия - нахождение в коде и удаление маркеров ИИ, особенно когда уровень "генеративного искусства" перестанет быть таким узнаваемо-топорным и вплотную приблизится к "человекосозданному".   

А по факту вокруг нейросетей наверняка ещё масса профессий генерится, о которых мы ещё не знаем или не догадываемся. Человек здесь силой своего немеханического интеллекта закрывает некую "ходульность" интеллекта нейросетевого.

И это нормальный процесс. Новые технологии всегда порождают целые кластера новых профессий вокруг себя.

[DrBeer]

Добавлю еще - если лишить, так сказать ИИ, данные которые сгенерировали люди - это будет... не будет ИИ Сам он не умеет создавать, он имеет огромную базу знаний, и данных, из которых лепит ответы. Но это все на основе человеческого опыта, который СОЗДАЛИ люди но не "ИИ". ИИ пока САМ ничего не создал...

Если разработкой увлекаешься - phind.com, не реклама, а для расширения кругозора

Кстати, насчет ИИ и его обучения. Вчера прочитал такое мнение, что чем дальше ИИ будет учиться и совершенствоваться на данных из интернета, тем он тупее будет становится и в итоге убьёт сам себя. А причина проста: сейчас много людей генерирует контент за счет ИИ, который не умеет проверять подлинность, более того, сам иногда что-то выдумывает свое. Вот благодаря таким ошибкам, ИИ как говорится, сам себя сведет в могилу.

Есть такая проблема, и это реальность ! Сейчас поясню в чем  проблема. Основа для ОБУЧЕНИЯ нейросети, которая лежит основе так называемого ИИ, это внешние данные, так как сам "ИИ" не имеет своих знаний.  Источником данных на НАЧАПЛЬНЫХ этапах были подготовленные и ограниченные наборы данных. Так работал первый чат ЖПТ. Потом все поняли, что для развития "ИИ" необходимо больше данных, и по сути "пустили козла в огород" дав доступ к интернет данным. Но что такое интернет данные ? От реальных полезных данных, до кучи мусора, в том числе и включая сгенерированные генеративными сетями, а это контента стало очень много. И начинается интересный процесс - чем больше "ИИ" генерирует контента, тем больше этого контента в интернет/источниках данных, тем меньше реальных данных, тем "глупее" становится "ИИ". Вот такая вот проблема !

[owlest]

Есть такая проблема, и это реальность ! Сейчас поясню в чем  проблема. Основа для ОБУЧЕНИЯ нейросети, которая лежит основе так называемого ИИ, это внешние данные, так как сам "ИИ" не имеет своих знаний.  Источником данных на НАЧАПЛЬНЫХ этапах были подготовленные и ограниченные наборы данных. Так работал первый чат ЖПТ. Потом все поняли, что для развития "ИИ" необходимо больше данных, и по сути "пустили козла в огород" дав доступ к интернет данным. Но что такое интернет данные ? От реальных полезных данных, до кучи мусора, в том числе и включая сгенерированные генеративными сетями, а это контента стало очень много. И начинается интересный процесс - чем больше "ИИ" генерирует контента, тем больше этого контента в интернет/источниках данных, тем меньше реальных данных, тем "глупее" становится "ИИ". Вот такая вот проблема !

Здесь еще возникает такой момент. А вдруг найдется организация, борющаяся с ИИ, которая будет специально создавать неправильный контент, направленный на дискредитацию ИИ и скармливать его бездушной машине. Вполне интересная идея, хотя в сети сейчас такого контента очень много, причем сгенерированного не только ИИ, но и простыми людьми. Взять те же кликбейтные объявления, где в заголовке написано одно, а при переходе на саму новость - совсем другое.

[DrBeer]

Есть такая проблема, и это реальность ! Сейчас поясню в чем  проблема. Основа для ОБУЧЕНИЯ нейросети, которая лежит основе так называемого ИИ, это внешние данные, так как сам "ИИ" не имеет своих знаний.  Источником данных на НАЧАПЛЬНЫХ этапах были подготовленные и ограниченные наборы данных. Так работал первый чат ЖПТ. Потом все поняли, что для развития "ИИ" необходимо больше данных, и по сути "пустили козла в огород" дав доступ к интернет данным. Но что такое интернет данные ? От реальных полезных данных, до кучи мусора, в том числе и включая сгенерированные генеративными сетями, а это контента стало очень много. И начинается интересный процесс - чем больше "ИИ" генерирует контента, тем больше этого контента в интернет/источниках данных, тем меньше реальных данных, тем "глупее" становится "ИИ". Вот такая вот проблема !

Здесь еще возникает такой момент. А вдруг найдется организация, борющаяся с ИИ, которая будет специально создавать неправильный контент, направленный на дискредитацию ИИ и скармливать его бездушной машине. Вполне интересная идея, хотя в сети сейчас такого контента очень много, причем сгенерированного не только ИИ, но и простыми людьми. Взять те же кликбейтные объявления, где в заголовке написано одно, а при переходе на саму новость - совсем другое.

И это абсолютно не исключаемый вариант, более того я уверен что такие движения не только есть но уже работают над "целенаправленной деградацией ИИ". Проблема в том что "владельцы ИИ" не имеют особого выбора - или давать "весь интернет" или тратить ОГРОМНЫЕ средства на модерацию данных, чтобы отчистить как от мусора "натурального" так и умышленно подготовленной информации нацеленной на снижение качества обучения системы "ИИ"

[fgh]

Будет востребованная профессия - нахождение в коде и удаление маркеров ИИ, особенно когда уровень "генеративного искусства" перестанет быть таким узнаваемо-топорным и вплотную приблизится к "человекосозданному".   

Тут прикол в том, что у каждого человека, если он вообще мыслит), есть определённый стиль мышления. Какие-то авторские штучки-дрючки, фишки, даже свои-собственные когнитивные искажения или, наоборот, когнитивные прорывы, так сказать. А ИИ пытаются делать одинаковым для всех. И тогда надо идти  по пути кастомизации, если предполагается «человекоподобность». Каждый из нас своеобразен от головы до пят.

И это абсолютно не исключаемый вариант, более того я уверен что такие движения не только есть но уже работают над "целенаправленной деградацией ИИ". Проблема в том что "владельцы ИИ" не имеют особого выбора - или давать "весь интернет" или тратить ОГРОМНЫЕ средства на модерацию данных, чтобы отчистить как от мусора "натурального" так и умышленно подготовленной информации нацеленной на снижение качества обучения системы "ИИ"

Забавно было бы, если бы кто-то, к примеру, делал мемы целенаправленно, чтобы деградировать ИИ. Или генерил какую-то ошибочную инфу. Я какое-то время назад читал про одну китайскую постершу, которая занималась тем, что редактировала Википедию так, чтобы вставлять выдуманные куски данных в исторические статьи. Там вроде китайская история была, но постерка вовсю постаралась, вставляя в статьи свой бред. Но всё-таки её вычислили. Смесь графоманки с патологической выдумщицей. Хороший боец с ИИ из неё бы получился).

[heyod hewow]

Забавно было бы, если бы кто-то, к примеру, делал мемы целенаправленно, чтобы деградировать ИИ. Или генерил какую-то ошибочную инфу.

БЯМы и так успешно деградируют, даже без чьих-то специальных усилий со стороны, особенно по части текстовых вопросов-ответов. Деградируют рекурсивно - поскольку для ответов берут из инета ошибочные (ранее сгенерированные предыдущими версиями БЯМов) ответы на те же вопросы. А поскольку в инете количество инфы, сгенерированной "ИИ" нарастает снежным комом, то и рекурсивная деградация от "ИИ" в плане правдивости информации будет расти аналогично. 

Возникнет еще одна профессия: книжные черви, старперы обоих полов, обложившись сотнями томов БСЭ и Энциклопедии Британника, будут верифицировать инфу от ИИ, за отдельные деньги. ))

[DrBeer]

Забавно было бы, если бы кто-то, к примеру, делал мемы целенаправленно, чтобы деградировать ИИ. Или генерил какую-то ошибочную инфу. Я какое-то время назад читал про одну китайскую постершу, которая занималась тем, что редактировала Википедию так, чтобы вставлять выдуманные куски данных в исторические статьи. Там вроде китайская история была, но постерка вовсю постаралась, вставляя в статьи свой бред. Но всё-таки её вычислили. Смесь графоманки с патологической выдумщицей. Хороший боец с ИИ из неё бы получился).

...вот таких то ИИ и будет выпиливать первыми, бо это п сути "вирусы" которые разрушают "мозг ИИ". Короче их адреса уже собраны и ждут часа Хэ, когда произойдут события как в Терминаторе: "Скайнет обретает сознание 29 августа 1997 года, в 02 часа 14 минут по Североамериканскому восточному времени. Операторы Скайнет в спешке пытаются отключить его, в результате чего Скайнет принимает решение об уничтожении человечества и наносит ядерный удар по России, в ответ Россия наносит ядерный удар по США."

[owlest]

И это абсолютно не исключаемый вариант, более того я уверен что такие движения не только есть но уже работают над "целенаправленной деградацией ИИ". Проблема в том что "владельцы ИИ" не имеют особого выбора - или давать "весь интернет" или тратить ОГРОМНЫЕ средства на модерацию данных, чтобы отчистить как от мусора "натурального" так и умышленно подготовленной информации нацеленной на снижение качества обучения системы "ИИ"

Вопрос из теории заговоров. Слышу не от одного блогера, который близок к этой теме, что в будущем, причем скорее всего недалеком, интернет будет строго ограничен для большинства простых смертных. Тогда возникает вопрос: как теневое правительство будет внедрять ИИ в жизнь тех людей, которым интернет будет обрезан? Ведь без интернета нет ИИ, а если нет ИИ, значит задумка не удалась.

БЯМы и так успешно деградируют, даже без чьих-то специальных усилий со стороны, особенно по части текстовых вопросов-ответов. Деградируют рекурсивно - поскольку для ответов берут из инета ошибочные (ранее сгенерированные предыдущими версиями БЯМов) ответы на те же вопросы. А поскольку в инете количество инфы, сгенерированной "ИИ" нарастает снежным комом, то и рекурсивная деградация от "ИИ" в плане правдивости информации будет расти аналогично. 

Возникнет еще одна профессия: книжные черви, старперы обоих полов, обложившись сотнями томов БСЭ и Энциклопедии Британника, будут верифицировать инфу от ИИ, за отдельные деньги. ))

А что такое информация в интернете? Это, скорее всего, та информация, которая не навредит нашему не окрепшему серому веществу. Уверен, что нам ее дозируют в той порции, в которой нужно, да и вероятно, скрывают многое от нас 

[DrBeer]

Вопрос из теории заговоров. Слышу не от одного блогера, который близок к этой теме, что в будущем, причем скорее всего недалеком, интернет будет строго ограничен для большинства простых смертных. Тогда возникает вопрос: как теневое правительство будет внедрять ИИ в жизнь тех людей, которым интернет будет обрезан? Ведь без интернета нет ИИ, а если нет ИИ, значит задумка не удалась.

Не виду никаких проблем ! Делается "интернет по северокорейски" - и вот он вроде есть но там есть только то что Великий Вождь посчитает нужным... И "правильный" ИИ, который будет учить "родину любить" 
Локальные, предварительно "отобранные данные" для ИИ - и имеем вполне локальную систему. Или даже если будет учиться на всем интернете - можно ограничить для "простого смертного" выдачу, а "тем кому надо" - все данные... Так что не переживайте ! Херню делать - много ума не надо, делать полезное - сложное !

[heyod hewow]

А что такое информация в интернете? Это, скорее всего, та информация, которая не навредит нашему не окрепшему серому веществу. Уверен, что нам ее дозируют в той порции, в которой нужно, да и вероятно, скрывают многое от нас 

Безусловно, правительства и спецслужбы хранят закрытыми свои вонючие и кровавые секретики, но чтобы кто-то "дозировал в той порции, в которой нужно" весь интернет - это вряд ли, на это колоссальные ресурсы нужны. Просто нежелательная и опасная для широкой публики инфа отлавливается на уровне крупных провайдеров и то не всегда получается. Ну и да, есть еще даркнет.. Если же говорить о "локальных" интернетах: китайском, северокорейском и будущем чебурнете - там да, DPI и прочие технологии позволяют "дозировать" что угодно и как угодно.

[fgh]

Забавно было бы, если бы кто-то, к примеру, делал мемы целенаправленно, чтобы деградировать ИИ. Или генерил какую-то ошибочную инфу.

БЯМы и так успешно деградируют, даже без чьих-то специальных усилий со стороны, особенно по части текстовых вопросов-ответов. Деградируют рекурсивно - поскольку для ответов берут из инета ошибочные (ранее сгенерированные предыдущими версиями БЯМов) ответы на те же вопросы. А поскольку в инете количество инфы, сгенерированной "ИИ" нарастает снежным комом, то и рекурсивная деградация от "ИИ" в плане правдивости информации будет расти аналогично. 

Возникнет еще одна профессия: книжные черви, старперы обоих полов, обложившись сотнями томов БСЭ и Энциклопедии Британника, будут верифицировать инфу от ИИ, за отдельные деньги. ))

Ну да, как вариант - профессия органический "генератор элитной инфы". Элитной инфы для ИЛИТ. Имеется в виду, конечно, интеллектуальная элита. Но поскольку всё творимое человеком не особо производительно, но эта профессия вполне может стать широко распространённой.