Очень сложно устанавливать ограничения для искусственного интеллекта.
Ничего сложного в этом нет и это происходит уже сейчас, а не в будущем Станислава Лема. И да, он как всегда прав - человечество такая (условно)разумная раса, которая любое изобретение первым делом приспосабливает к созданию еще более эффективного оружия для уничтожения своих единственных собратьев по разуму. А лишь потом - для применения в "народном хозяйстве", от палки с привязанным камнем, через нейлоны-тефлоны и до ядерной энергии.
Ограничения для текущих ИИ уже есть, бесплатные ИИ имеют одни ограничения (точнее много), платные - умеют больше, а правительственные, корпоративные и военные - соответственно еще больше. И они будут развиваться в первую очередь.
Нет понятное дело, что какие-то ограничения пытаются установить. Однако, чтобы правильно установить ограничение нужно понимать, как это всё функционирует.
А искусственный интеллект всегда будет чёрным ящиком в котором непонятно что происходит. Есть входной сигнал, есть выходной сигнал, есть какое-то обучение, но что происходит в черном ящике?
При этом, одни искусственные интеллекты и конкурируют с другими искусственными интеллектами.
Например, есть китайский искусственный интеллект, а есть американский искусственный интеллект.
Предположим, они очень важны потому что используются в военной программе.
И получается дилемма, что важнее быстрее обучить искусственный интеллект, чтобы он превосходил вражеский искусственный интеллект?
Или важнее его лучше понять, лучше исследовать, чтобы не дай бог он не вышел из-под контроля?
Обе задачи противоречат друг другу, так как важен временной фактор.
При этом, условные американцы и китайцы, возможно еще не имеют информации, какой стратегии придерживается их противник и каких он достиг успехов. Может он уже обогнал их, и создал принципиально более совершенно искусственный интеллект! И нужно поднажать, наплевав на все ограничения и опасения?!
Поэтому, в такой ситуации всякие ограничения может и будут вводиться, но я не уверен, что ситуация в какой-то момент не выйдет из-под контроля.