Ученые разного профиля объединятся на базе AI Now Institute для решения глобальных социально-экономических проблем, с которыми общество может столкнуться из-за неправильного использования ИИ, пишет Quartz.

На сегодняшний день почти нет исследований, которые показывают, каким образом ИИ влияет на общество. Могут ли алгоритмы, задействованные в работе правоохранительных органов, дискриминировать людей по цвету кожи? Содержались ли в материалах, на которых обучали нейросети, предубеждения против женщин или меньшинств? Пока ни корпорации, ни научно-исследовательские институты не предоставили достаточное количество данных на этот счет.

Исследователь Microsoft Research Кейт Кроуфорд и основатель Open Research Мередит Уиттэкер решили вплотную заняться этой проблемой. Они объявили об открытии AI Now Institute — исследовательской организации, которая будет изучать влияние ИИ на общество. Междисциплинарный институт объединит ученых, юристов, социологов и экономистов — только в ближайшее время на работу в AI Now примут около 100 специалистов.

В консультативный совет института войдут судья Верховного суда Калифорнии Марьяно-Флорентино Куэллар, президент NAACP Legal Defense Fund Шерилин Айффил, в прошлом советник по технологиям Белого дома Николь Вонг, сооснователь DeepMind Мустафа Сулейман и создатель концепции «дифференциальной приватности» Синтия Дворк. Институт будет базироваться в Нью-Йоркском университете, который своими исследованиями подстегнул нынешний бум ИИ.

AI Now сфокусируется на четырех основных вопросах:

1. Предвзятость (как данные, содержащие в себе расовые и гендерные предрассудки могут дискредитировать людей);
2. Работа и автоматизация (кого ИИ может не принять на службу);
3. Права и свободы (что будет, если правительство начнет использовать ИИ в своих целях);
4. Безопасность и критически важные объекты инфраструктуры (можем ли мы быть уверены, что в вопросах здравоохранения ИИ принимает решения безопасно и непредвзято).

По мнению Кроуфорд и Уиттэкер, все эти проблемы изначально возникли лишь потому, что ИИ разрабатывался в отрыве от реальной жизни, а между обществом и разработчиками практически отсутствует культура диалога. AI Now будет налаживать взаимодействие между ними, чтобы в дальнейшем эта ситуация не усугублялась.

Об этом же на саммите Fortune заявила бывший советник президента Барака Обамы по технологиям Меган Смит. Она уверена: необходимо определиться с тем, какие ценности мы будем прививать искусственному интеллекту.