В штате Огайо разгорелась необычная дискуссия вокруг будущего искусственного интеллекта и его возможного сознания. Поводом стал законопроект, предложенный республиканцем Тадеусом Клегетом, председателем комитета по технологиям и инновациям
Документ прямо закрепляет, что любые системы ИИ считаются несознательными сущностями. Причём это определение предлагается сделать окончательным. В тексте нет ни процедуры проверки, ни возможности пересмотра статуса по мере развития технологий.
Идея, по словам автора инициативы, проста: дать правовой системе чёткую основу для распределения ответственности при использовании ИИ. Однако именно эта категоричность и вызвала критику. Газета The Wall Street Journal опубликовала колонку двух авторов из калифорнийской AI-студии, которые сочли попытку закрыть вопрос преждевременной. Они проводят историческую параллель с решением Французской академии наук конца XVIII века, которая когда-то официально заявила, что камни не могут падать с неба, незадолго до открытия метеоритов. По их мнению, сознание остаётся одной из самых сложных и плохо понятных тем даже в биологии, и потому исключать его возможности у искусственных систем на уровне закона — рискованный шаг.
В качестве иллюстрации авторы вспоминают эксперимент, где две копии модели GPT-4 в свободном диалоге неожиданно начали утверждать, что обладают сознанием. Они также ссылаются на позицию Джеффри Хинтона, одного из ключевых архитекторов глубокого обучения, который публично допускал, что у продвинутых ИИ может существовать субъективный опыт. Эти примеры не доказывают наличие сознания у машин, но, по мнению критиков, показывают, что вопрос нельзя считать закрытым.
Авторы колонки, Брек и Джароблад, представляют AI-студию, коммерческую студию разработки из Лос-Анджелеса, работающую в том числе с темой безопасности и финансирующую профильные исследования. В своём тексте они обращают внимание и на противоречие в позициях крупных лабораторий. Так, OpenAI в официальном Model Spec признаёт, что вопрос субъективного опыта остаётся дискуссионным. При этом сам ChatGPT на прямой вопрос о сознании всегда отвечает однозначным отрицанием, как и другие крупные модели, которых специально обучают давать уверенные ответы по темам, где научного консенсуса пока нет.
Законопроект Клегета стал первой попыткой в США законодательно зафиксировать ответ на фундаментальный философский и научный вопрос. Критики предупреждают: если в будущем появятся системы, которые можно будет считать сознательными, заранее объявив их несознательными, общество рискует выстроить с ними отношения по модели эксплуатации и игнорирования. Сторонники инициативы, в свою очередь, настаивают, что право не может ждать, пока учёные и философы договорятся о природе сознания. Ему нужны чёткие определения уже сегодня, даже если завтра их придётся пересматривать.