Многовато: ученые выяснили, сколько воды тратит ChatGPT для генерации слов

vgtimes.ru:

Вода бывает не только в дипломах: оказывается, ChatGPT потребляет приличный объем жидкости для генерации. Два-три абзаца текста обойдутся примерно в бутылку воды.

Исследователи из Калифорнийского университета подсчитали, сколько ресурсов необходимо для обслуживания серверов нейросети при использовании модели GPT-4. Выяснилось, что в среднем для генерации 100 слов нужно от 0,5 до 1,5 литра воды — примерно столько требуется для охлаждения системы. За год на GPT-4 может уйти до 435 миллионов литров воды при условии, что ее будет использовать каждый десятый американец. Немало тратится и на обучение нейросетей — предшествующая модель GPT потребляла столько же воды, сколько требуется для производства 45 килограммов говядины.

Тем временем такие технологические гиганты как Google пообещали проработать эту проблему, построив новые дата-центры с использованием альтернативных методов охлаждения серверов.

Недавно ютубер ChromaLock сумел запустить ChatGPT на обычном калькуляторе. Также на днях вышла новая модель 1o, которая способна за час написать код для докторской диссертации.