Представьте, что вы можете заглянуть внутрь головы другого человека и увидеть, о чем он думает. Для нас, людей, это пока фантастика. Но что насчет искусственного интеллекта? Недавно группа исследователей из Университета Карнеги — Меллон предложила способ изучить, насколько большая языковая модель (БЯМ), такая как GPT-3 или LLaMA, способна к самоанализу, или, как говорят учёные, к интроспекции.

Большие языковые модели — это сложнейшие нейронные сети, обученные на гигантских массивах текста. Они умеют генерировать связные тексты, отвечать на вопросы, переводить языки, но их внутренние процессы остаются во многом загадкой. Мы знаем, что они делают, но не всегда понимаем, как именно они приходят к своим выводам.

Чтобы пролить свет на эту проблему, исследователи разработали оригинальный подход. Они научились «внедрять» в модель не просто запрос, а целую последовательность «мыслей» — своего рода внутренний диалог, который модель должна была бы проиграть, прежде чем дать окончательный ответ. Представьте, что вы решаете задачу, сначала обдумывая разные варианты, а потом выбирая лучший. Примерно так же действуют учёные с ИИ.

Они взяли модель LLaMA и «научили» её распознавать, когда ей была дана такая «внутренняя» информация. Это позволило им понять, как модель обрабатывает и использует эти «мысли». Результаты оказались любопытными: модель действительно демонстрировала способность различать, когда ей предоставляли дополнительную информацию о своём «мышлении», и когда нет. Это говорит о том, что БЯМ могут иметь зачатки чего-то вроде интроспекции — способности анализировать собственные внутренние состояния.

Конечно, это не означает, что ИИ обладает сознанием в человеческом понимании. Мы всё ещё очень далеки от этого. Но этот метод открывает новые возможности для исследования внутренних механизмов работы нейросетей. Понимание того, как ИИ «думает», может помочь нам создавать более надёжные, прозрачные и безопасные системы искусственного интеллекта в будущем.