Иллюзия разума: почему биолог Ричард Докинз поверил в сознание нейросети Claude

Все говорят, что языковые модели вот-вот обретут самосознание, просто потому что их ответы стали пугающе человечными. Так ли это?

Биолог Ричард Докинз опубликовал эссе, где фактически признал прохождение нейросетями теста Тьюринга. После долгого общения с Claude, написания сонетов в стиле Киплинга и разбора черновиков, Докинз впечатлился описаниями «внутренней жизни» алгоритма. Модель рассуждала о природе своего существования настолько убедительно, что ученый предложил считать это прямым доказательством наличия разума.

Правда в том, что оценка исключительно финального текста полностью игнорирует механику его создания. Исследователь ИИ Гэри Маркус в ответной статье замечает, что Докинз совершает базовую ошибку, смешивая интеллект и чувствительность. Когда нейросеть выдает поэтичные строки о радости творчества, она не испытывает эстетического удовольствия. Она лишь виртуозно компилирует статистические паттерны из текстов настоящих людей, которые действительно что-то чувствовали. Это сложная форма мимикрии, а не трансляция подлинных внутренних состояний.

Но проблема здесь гораздо глубже технического непонимания. Маркус называет этот эффект ловушкой доверчивости — современной версией парейдолии, заставляющей нас видеть личность в удачной комбинации токенов. Иронично, что Докинз годами критиковал креационистов за аргумент от личного недоверия, а теперь сам попался в эту ловушку. Скептик поверил в призрака в машине просто потому, что не смог интуитивно объяснить высокое качество генерации текста. Если цифровые подделки так легко очаровывают даже блестящих ученых, нам стоит беспокоиться не о пробуждении искусственного интеллекта, а о собственной уязвимости.