Компании экономят на ИИ, заставляя его говорить как пещерный человек
Сектор искусственного интеллекта повсеместно взвинчивает расходы. Потребительская электроника, компьютерное железо и игры уже ощутили на себе дефицит, но и самим ИИ-компаниям приходится несладко.
За последние недели многие популярные ИИ-сервисы сменили модель подписки с фиксированной платы на оплату за использование. Это отражает высокую стоимость поддержания таких сервисов и вынуждает крупные компании, сделавшие ставку на ИИ, действовать осторожнее. Некоторые фирмы полагают, что нашли новое решение против растущих затрат – они заставили нейросеть говорить как Тарзан.
Как сообщает 404 Media, среди компаний, желающих сократить расход токенов, набирает популярность новый плагин. В отчете говорится, что сотрудники нескольких фирм, включая саму OpenAI, обратились к инструменту под названием "Caveman", который заставляет модели вроде Claude общаться коротко и по делу, без лишней болтовни.
Создатель плагина Юлиус Бруссе сказал:
Я создал Caveman в начале апреля, потому что активно пользовался Claude Code и заметил, что значительная часть моих трат на токены уходит на ненужную прозу, любезности, оговорки, переходы и болтливые формулировки, которые на самом деле не имеют значения.
С этим плагином ответы, которые по задумке звучат по-человечески, дружелюбно и провоцируют на дальнейший разговор, превращаются в резкие отрывистые команды.
Меньше приветливых советов, больше сухих приказов. Бруссе утверждает, что за счет снижения "интеллекта" ИИ ему удалось сократить расход токенов примерно на 65 процентов.
Получается довольно иронично, как приходится "отуплять" ответы ИИ, чтобы продолжать пользоваться этим инструментом. Впрочем, даже такого сокращения расходов может оказаться недостаточно. Если же цены на использование ИИ продолжат расти, превосходя по затратам даже людей, пропадет всякий резон для его внедрения.
- Microsoft представила первый собственный ИИ-генератор изображений и снижает зависимость от OpenAI
- Девушка-козочка и юноша-пес в трейларах новых персонажей Zenless Zone Zero
- Всего 250 вредоносных документов достаточно для создания бэкдора в больших языковых моделях