Создан ИИ, который объяснит принципы своего мышления пользователю

Группа исследователей из Калифорнийского университета в Лос-Анджелесе, Калифорнийского университета в Сан-Диего, Пекинского университета и Пекинского института общего искусственного интеллекта (BIGAI) разработала новую систему искусственного интеллекта, которая может объяснить свои процессы принятия решений пользователю-человеку.

Эта система, представленная в журнале Science Robotics, может стать новым шагом на пути к созданию более надежного и понятного ИИ.

Целью системы XAI, созданной доктором Луяло Юанем и его коллегами, является достижение так называемого выравнивания ценностей. Это означает ситуацию, при которой пользователь-человек сможет понять, почему робот или машина действуют определенным образом или приходят к определенным выводам, а машина или робот смогут понять действия пользователя и его ход мысли. Это поможет значительно улучшить коммуникацию между человеком и роботом.

Недавняя статья команды основана на одной из их предыдущих работ, также опубликованной в Science Robotics, где команда исследовала влияние, которое «объяснимые системы» (модели, которые способны объяснять принцип собственной работы) могут оказать на доверие пользователя к ИИ во время совместной работы.

Исследователи надеются, что их новая «объяснимая система» улучшит сотрудничество между людьми и машинами в решении многочисленных прикладных задач. Кроме того, они считают, что использование таких систем повысит доверие людей к роботам на основе искусственного интеллекта, широко используемым в повседневной жизни: умные помощники, бытовые роботы и другие.

За последние несколько десятилетий системы ИИ становятся все более продвинутыми, достигая значительных результатов во многих реальных задачах. Тем не менее, большинство существующих систем искусственного интеллекта не делятся своими размышлениями с пользователями-людьми, что может сделать оценку их надежности чрезвычайно сложной задачей.

Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 5 (4 votes)
Источник(и):

ХайТек