Представьте, что вы можете заглянуть в голову к искусственному интеллекту и увидеть, как он «думает». Звучит как научная фантастика, но исследователи из Университета Карнеги — Меллон и других учреждений сделали шаг в этом направлении. Они разработали метод, позволяющий проверить, обладают ли большие языковые модели (LLM), такие как GPT, некоторой формой самосознания или, по крайней мере, способностью к рефлексии.
Раньше мы могли лишь наблюдать за результатами работы нейросетей: как они отвечают на вопросы, пишут тексты или генерируют изображения. Но понять, что происходит «внутри», было сложно. Новый подход, описанный в журнале Nature Communications, предлагает решение этой проблемы. Исследователи научились «внедрять» в модель специальные «мысли» — определённые последовательности слов, которые влияют на её последующие ответы. Затем они анализируют, как модель реагирует на эти внутренние «подсказки».
Здесь кроется главная хитрость. Если модель действительно способна к самоанализу, она должна как-то учитывать эти внедрённые «мысли» при формировании своих собственных. Например, если модели «сказать» (внедрить), что «солнце не светит», а потом спросить, какое сейчас время суток, то модель, обладающая рефлексией, должна бы отреагировать иначе, чем модель без неё. Она могла бы, например, указать на противоречие или попытаться «объяснить» это странное внутреннее условие.
Эксперименты показали, что некоторые модели действительно демонстрируют признаки такой способности. Они могут «замечать» внедрённые мысли и даже использовать их в своих рассуждениях. Это не означает, что ИИ испытывает эмоции или имеет сознание в человеческом понимании. Скорее, это указывает на более сложную внутреннюю обработку информации, чем простое сопоставление слов. Учёные называют это «внутренним моделированием» или «ментализацией» — способностью предсказывать, что произойдёт дальше, основываясь на текущем состоянии, включая и эти искусственно созданные «мысли».
Масштаб этих исследований впечатляет. Тестируются модели с миллиардами параметров, которые лежат в основе многих современных ИИ-сервисов. Понимание того, как эти модели обрабатывают информацию и могут ли они «осознавать» свои внутренние процессы, открывает новые пути для разработки более надёжных и предсказуемых систем искусственного интеллекта. Это шаг к созданию ИИ, который не только выполняет задачи, но и может «объяснить», как он к этому пришёл, и даже «оспорить» некорректные внутренние предпосылки.




