Пример — ситуация, когда технология распознавания лиц неверно идентифицирует темнокожих пользователей. Исправить такие системы трудно отчасти потому, что разработчики не всегда могут полностью объяснить, как они работают.

Поскольку системы ИИ становятся сложнее, а людям все труднее их понимать, эксперты и исследователи призывают разработчиков сделать шаг назад и больше внимания уделять не скорости систем, а тому, как и почему система дает определенные результаты.

«Если все, что у нас есть, — это "черный ящик", невозможно понять причины сбоев и повысить безопасность системы», — пишет Роман Ямпольский, профессор компьютерных наук в Университете Луисвилля, в своей статье под названием «Необъяснимость и непостижимость искусственного интеллекта».