Генеральный директор OpenAI Сэм Альтман выступает против запуска ИИ-моделей на персональных компьютерах
В подкасте Сэм Альтман заявил, что использование облачных сервисов для вывода ИИ более эффективно, чем запуск моделей на ПК, из-за ограниченных запасов памяти.
Акции американского производителя микросхем Intel резко упали в пятницу, снизившись почти на 30 %, что стало самым сильным падением за 52 года; аналитики связывают спад с замедлением рынка персональных компьютеров и ростом расходов на память и хранилища, вызванных бумом ИИ.
Генеральный директор OpenAI Сэм Альтман высказал мнение, что запуск ИИ-моделей локально на персональных компьютерах непрактичен. В подкасте Cheeky Pint Альтман сказал, что стремление к «локальному выводу» предполагает, что проблема решена открытыми моделями, но это будет означать выделение дефицитной динамической ОЗУ отдельным устройствам, а не серверам дата-центров гипермасштабных провайдеров.
«Многие хотят локального вывода … и как-то они полагают, что проблема уже решена … Но с точки зрения глобального распределения, на самом деле довольно ужасно, когда у всех есть часть ограниченного мирового запаса [динамической ОЗУ], находящаяся в их собственных компьютерах», — сказал Альтман.
Он добавил, что максимальное использование облака — лучший ответ на ограниченную аппаратную среду.
«Вы хотите максимального использования в облаке, если пытаетесь справиться с этой очень ограниченной средой … И как-то интуиция многих людей противоположна этому», — сказал он.
Комментарии Альтмана вызвали критику со стороны некоторых сообществ геймеров и техно-энтузиастов в интернете, которые утверждают, что отдельные пользователи должны сохранять право владеть и использовать собственное оборудование.
Дебаты происходят на фоне того, что сектор ИИ сталкивается с постоянными проблемами коммерциализации продуктов при росте расходов и сокращении поставок чипов, ориентированных на ИИ, при этом производители сообщают о нехватке печатных плат, которая может продлиться до 2030 года.