Ресурсы на обучение нейросетей удваиваются каждые три месяца

Специалисты Института искусственного интеллекта Аллена (AI2) предлагают ввести новые метрики оценки эффективности нейросетей. Нынешними темпами их вклад в расход энергии и глобальное потепление скоро станет существенным. Так что ИИ нужно поставить на службу обществу, а не только частным компаниям.

Все больше исследователей бьют тревогу по поводу растущей стоимости машинного обучения. В 2018 некоммерческая организация OpenAI опубликовала результаты исследования, согласно которым вычислительные ресурсы, необходимые для обучения масштабных моделей, увеличиваются вдвое каждые три — четыре месяца. В июне специалисты из Массачусетского университета в Амхерсте сообщили, что обучение нейросети оставляет такой же углеродный след, как пять автомобилей.

Разработчики новых нейросетей редко упоминают то, сколько ресурсов пошло на создание новых алгоритмов. Нынешними темпами, прогнозируют ученые, уже к 2025 году на нужды ИИ может уходить одна десятая электричества, выработанного во всем мире.

Эта статистика тревожит не только защитников окружающей среды, пишет MIT Technology Review. Она затрагивает и вопросы социального неравенства, и научного прогресса. Количество ресурсов, необходимых для получения значимого результата, ставит частные исследования в привилегированное положение по сравнению с академическими ИИ-лабораториями. Это ограничивает развитие отрасли, сужая перспективы до краткосрочных проектов, соответствующих корпоративным задачам. Долгосрочные проекты, которые могли бы пойти на пользу обществу, часто оказываются за бортом.

Исследование американского института AI2 предлагает новый путь: авторы рекомендуют ученым всегда публиковать финансовую и вычислительную стоимость обучения ИИ-моделей, а не только их производительность. Это повысит прозрачность и стимулирует инвестиции в развитие эффективных алгоритмов машинного обучения.

Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 4.7 (3 votes)
Источник(и):

ХайТек+