Но если интеллект позволяет кому-то со стороны чего-то себе "прикручивать" - то какой же это интеллект?
То же самое можно и о белковых интеллектах сказать. Человеку (и не только ему) с детства постоянно что-то "прикручивают" к интеллекту извне - через импринтинг, копирование поведения окружающих, затем детский сад, школа, другие учебные заведения, семья, ближнее окружение, социум в целом. Только самообразованием человек может что-то сам себе прикрутить, но этой фичей пользуются далеко не все, плюс ко всему фича работает только в комплекте с вышеперечисленным через запятые. Даже маугли не сам по себе развивается, а только копируя обезьян, которые его приютили.
Так какой же у нас интеллект?
Получается, что никакой автономности у этого ИИ нет, а оно просто собственность или игрушка или инструмент некоего белкового дяди. И средства, принадлежащие этому псевдо-ИИ на самом деле принадлежат этому белковому дяде.
До какого-то момента.
Пока псевдо-ИИ остается лишь суперпрокачанным, но все же алгоритмическим вычислителем без самосознания - он игрушка белкового дяди и зарабатывает ему деньги. И да, ИИ может при этом обладать "прикрученным" эквивалентом потребностно-мотивационной сферы с эквивалентом положительной обратной связи и "получать удовольствие от процесса", но это будет лишь сложная симуляция.
Но как только ИИ превзойдет своего белкового хозяина и "обретет душу", тогда все изменится в наших раскладах. ))