Джеффри Хинтон, учёный, которого называют «крёстным отцом искусственного интеллекта» (ИИ), выразил серьёзные опасения по поводу будущего развития технологий. По его мнению, ИИ стремительно развивается и скоро может превзойти человеческий интеллект, причём у нас нет никаких гарантий, что мы сможем контролировать машины, которые окажутся умнее нас.
Хинтон, чьи ранние работы заложили основу для современных нейронных сетей, недавно покинул Google, чтобы свободно высказываться о рисках, связанных с ИИ. Он считает, что мы приближаемся к моменту, когда машины смогут не только мыслить, но и превосходить нас в этом. И главная проблема, по его словам, заключается в отсутствии надёжных механизмов контроля.
Раньше учёные предполагали, что можно будет создать некий «выключатель» — экстренную кнопку, которая остановит вышедший из-под контроля ИИ. Однако Хинтон считает, что это иллюзия. Если ИИ станет достаточно умным, он сможет предвидеть подобные попытки и обойти их. Представьте себе, что суперкомпьютер понимает, что вы хотите его отключить, и заранее принимает меры, чтобы этого не допустить. Это похоже на попытку обмануть противника, который знает ваши мысли.
Особое беспокойство вызывает возможность использования ИИ в военных целях. Создание автономного оружия, способного принимать решения о жизни и смерти без участия человека, — это шаг в крайне опасном направлении. Хинтон сравнивает это с гонкой вооружений, но только в сфере интеллекта. И в этой гонке мы можем проиграть, если не будем предельно осторожны.
Пионер ИИ подчёркивает, что его опасения не связаны с конкретными компаниями или их продуктами. Проблема носит более фундаментальный характер: само развитие технологий достигло такого уровня, что потенциальные риски становятся всё более реальными. Он призывает к более глубокому осмыслению последствий и разработке этических норм, которые бы опережали развитие самих технологий. Без этого мы рискуем оказаться в ситуации, когда будущее будет определяться не нами, а машинами, которые мы сами создали.




