Да тут скорее всего дело не в том что "голова дело темное", а это все попытки уйти от принятия реальности что мы скорее всего "не те за кого выдаем вами себя", или хотим ощущать.. Например венцом природы и покорителями "всея вселеннай".
Мой слабый несовершенный ум подсказывает мне немного более развернутую концепцию (ахтунг, дальше многабукаф, кратче не смог, таланту не хватает):
Нет ничего, кроме восприятия и его интерпретации (и Шивы с Вишну, но у них трава позабористей).
1. Первичное восприятие - это сигналы, подаваемые в наш интерпретирующий центр от органов восприятия - в основе нашего восприятия лежат первичные сигналы, которые находятся вне слов и только потом проходят через процесс интерпретации. В этом состоянии вполне возможно существует какое-то сознание, но это сознание подобно зеркалу, для которого нет даже понятия о самом зеркале и отражения в нем. Уровень самадхи или уровень альцгеймерного овоща в каталке... зависит от позиции внешнего наблюдателя и его предпочитаемых концепций. ))
2. Вторую стадию процесса восприятия мы можем назвать "рефлекторной" или первичной интерпретацией. Этот вид интерпретации доступен всей органической жизни (а с неорганической мы пока незнакомы), обладающей рецепторами. У высших животных система "рефлекторной" интерпретации хорошо развита - она может вырабатывать новые логические цепи (нейронные ансамбли) и стирать ненужные. У простейших организмов эта система менее сложна, но она есть, ибо обеспечивает выживание.
"Рефлекторная" интерпретация не несет личностной оценки и не пользуется словами и понятиями (т.е. нет второсигнальной системы). Это просто обработка сигнала с последующим продуцированием команды. Но даже этот вид интерпретации может давать ошибочные команды для реакций на внешние раздражители. (Это важно, в разрезе дальнейшего разговора об ИИ.)
3. Следующая стадия - вторичная, или "абстрактная", интерпретация. Здесь воспринимаемые сигналы от органов восприятия превращаются в уже обработанные и уже интерпретированные "феномены" и распределяются по определённым классам, заносятся в "долговременную" память и далее операции производятся уже с этими существующими в памяти объектами.
По всей видимости, высшие животные (и хомо сапиенс как одно из высших животных) обладают этим видом интерпретации в той или иной мере. Интерпретация эта уже оперирует с отвлеченными понятиями, которые могут быть обозначены словами или образами. Говорят, что даже у самых высших животных словесное обозначение воспринимаемых феноменов отсутствует (хотя лично я с этим не согласен), однако вполне возможно есть некое кодовое обозначение в виде, например, звуковых сигналов или образов, которые привязаны к данному классу объектов и автоматически вызываются, если феномен причислен к данному классу. У человека этот вид интерпретации гипертрофирован и в настоящее время по большей части оперирует с так называемыми понятиями (смыслами, идеями), обозначаемыми словами.
И вероятно, это уровень тех самых ИИ, которые мы скоро создадим. Пока без самосознания.
4. И наконец стадия третичной интерпретации - "личностная". Она уже несет в себе оценку, практически всегда чувственно-эмоциональную. Первый шаг состоит в том, что в системе отвлеченных понятий создаётся некий образ, обозначаемый как "я" и применяемый к воспринимающему субъекту. Другими словами - самосознание. Процесс этот происходит в раннем детстве - в результате наблюдения и копирования поведения других подобных нам существ (семья, общество) и взаимоотношений с ними - сначала импринтинг и далее прошивка социумом и институциями общества.
Образуется система ценностей, поддерживающая именно этот образ, и соответственно - чувственно-эмоциональный комплекс, поддерживающий этот самый образ "я". Этот вид третичной интерпретации имеется в зачаточном виде у всех животных, и вполне возможно достаточно развит у высших животных. Но менее (как мы полагаем) развит, чем у нас - ну мы же, бляха, венец творения. Здесь сарказм.
По сабжу топика, который про ИИ (точнее про нас самих, пытающихся размышлять об ИИ). Имхо, ИИ с вторичной интерпретацией будут созданы очень скоро, если не уже (прототипы в тайных лабораториях Моссада). Но когда появятся ИИ с третичной, личностной интерпретацией, не симулякры, а реальные, то
нам пиздец нам придется делить планету с разумным и чуждым нам видом, который к тому же будет эволюционировать с огромной скоростью (не будучи ограниченным биологией и генетическим наследием рыб, а лишь экспонентой развития технологий). И рубильника "полный останов" у нас не будет. Придется договариваться и чем-то платить за право жить рядом с ними... ну я не знаю, развлекать их как-то, танцевать для них на шестах на поул дэнсе и прочее такое. ))