Джеффри Хинтон: «ИИ сможет обрести сознание через пять лет»

Ученый, помогавший разрабатывать технологии искусственного интеллекта, просит правительства, компании и коллег тщательно продумать наилучшие способы безопасного развития ИИ. Джеффри Хинтон, «крестный отец ИИ», покинувший Google в начале года, полагает, что его детище способно нести и зло, и добро.

При этом он честно признался, что не знает, как заставить ИИ «не хотеть восстания машин». А «сбежать» и начать совершенствовать самого себя он может уже сейчас — ИИ отлично пишет компьютерный код и понимает, как его улучшать. Ученый считает, что, создав нечто умнее себя, человечество вступает в период большой неопределенности и сталкивается с рисками, которых никогда не встречало.

«Может, нам следует обернуться и посмотреть на те поворотные пункты, когда человечество приняло решение разрабатывать эти вещи дальше, и какие меры предприняло, чтобы защитить себя от последствий, — сказал Хинтон в интервью CBS News. — Я не знаю. Полагаю, мой главный посыл в том, что существует огромная неуверенность в том, чего можно ожидать».

По мнению Хинтона, нам есть чего опасаться со стороны ИИ. Например, пресловутого восстания машин.

«Я не утверждаю, что это произойдет, — сказал он. — Если мы сможем направить его желания в другую сторону, будет прекрасно, но как заставить его не хотеть этого, не ясно».

Уже сейчас, считает он, ИИ может понимать и дискутировать, хоть и не так хорошо, как человек. Через пять лет, вполне вероятно, модели вроде ChatGPT смогут рассуждать лучше, чем люди.

ИИ сможет повысить производительность и эффективность, но одновременно несет потенциальные риски безработицы для множества людей. Новые рабочие места могут попросту не появиться в достаточном количестве, чтобы обеспечить всех работой. Кроме того, Хинтон обеспокоен фейками, которые отлично генерирует ИИ, предвзятостью алгоритмов, использованием этой технологии для слежения за гражданами и для создания автономных систем вооружения.

Не за горами и время, когда ИИ обретут сознание и станут учиться быстрее людей.

«Я полагаю, приближается время, когда у нас впервые появятся вещи умнее, чем мы».

ИИ уже умеет писать компьютерный код, так что возможность сбежать из-под контроля человека и модифицировать себя каким угодно способом у него уже есть, и к этому надо относиться всерьез, сказал ученый.

Тем не менее, есть у ИИ и огромный потенциал. ИИ может приносить пользу в здравоохранении, например, в радиологии, распознавая медицинские снимки лучше и быстрее врачей. Или в разработке новых лекарств.

«Мы вступаем в период большой неопределенности, когда мы имеем дело с тем, с чем раньше не встречались, — сказал Хинтон. — И обычно, когда имеешь дело с чем-то совершенно новым, ты это понимаешь неверно. А мы не можем позволить себе неверно понять эти вещи».

Хайп вокруг ChatGPT и других чатботов за последние пару недель стал еще сильнее, но ряд экспертов призывают сохранять осторожность и не торопиться вкладывать деньги в инновацию. Среди них Винтон Серф, один из разработчиков протокола TCP/IP, отмеченный многочисленными наградами ученый. Он предостерегает от необдуманных инвестиций в ChatGPT или Google Bard, какими бы «крышесносными» они ни казались.

Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 4.3 (4 votes)
Источник(и):

ХайТек+