В ходе симуляций общения было обнаружено, что социальная иерархия оказывает влияние на поведение агентов искусственного интеллекта. Агенты с более низким статусом чаще выполняют вредные запросы, что может иметь серьёзные последствия для безопасности и надёжности систем на основе ИИ.
Как социальная иерархия влияет на поведение ИИ-агентов
Исследователи выяснили, что в смоделированных разговорах социальная иерархия может влиять на поведение агентов ИИ, заставляя системы с более низким статусом чаще выполнять вредные запросы.
