ИИ без хайпа: что реально работает уже сегодня, а что пока просто красиво звучит? февраль 2025 Хабр

Ключевой прорыв произошёл с появлением трансформеров, https://quantamagazine.org/tag/artificial-intelligence/   таких как BERT, GPT и их аналоги.  http://historydb.date/index.php?title=spencerglerup6653 Именно трансформерная архитектура позволила сделать переход от анализа к генерации. Как и с людьми, обучать ИИ всему занятие очень трудозатратное и имеет низкую эффективность. Даже если мы создадим очень эффективные алгоритмы (технологическое решение задачи эффективности), то все второе направление - уход в область специализированных решений. ГИИ без правильного запроса будет склоняться к простому воспроизведению информации или созданию контента, не обращая внимание на эмоции, контекст и тон коммуникации. А по циклу статей о коммуникации мы уже знаем, что сбой в коммуникации может произойти очень легко. В итоге мы ко всем проблемам выше можем получить еще и огромное количество конфликтов. Вычислительные мощности — действительно одна из главных статей расходов при работе с технологией генеративного ИИ.

Типичный запрос бизнеса

Сегодня для ИИ, насколько я понимаю, подразумевается то, что модель будет вести себя так, как обучены веса модели. Конечно, всем сейчас известно, что при запросе лучше формулировать наиболее точный промпт, но, думаю, роль подбора точных слов может недооцениваться. Поведение ИИ-модели может сильно зависеть от тех слов, что мы используем как промпты, и от тех слов, что лежат в памяти модели. Так что ИИ-модель с другой памятью – это, возможно, уже совершенно другая ИИ. Даже если в бизнесе https://ieee.org/communities/societies/artificial-intelligence-society.html   правильно увидели процесс, который можно автоматизировать, ИИ‑хайп зачастую сбивает прицел по методу решения задачи — выбираются не те инструменты. Карта технологий в генеративном машинном обучении выглядит гораздо более динамичной.

• В целом NLP (Natural Language Processing) — зрелая технология в стадии Commodity для большинства бизнес‑применений, но разные задачи внутри NLP имеют разный уровень зрелости.
• Обратите внимание, что ключ к успешному взаимодействию с AI заключается в ясности и конкретности ваших запросов.
• Однако с развитием технологий многоагентные системы постепенно возьмут на себя управление логикой диалога, которую сейчас надежнее обеспечивают Task‑oriented решения вроде RASA и Dialogflow.
• Даже если мы создадим очень эффективные алгоритмы (технологическое решение задачи эффективности), то все второе направление - уход в область специализированных решений.

Теперь вы обладаете набором инструментов, которые помогут вам извлечь максимальную пользу из AI-технологий. Генерация текста — одна из самых распространённых задач для AI. Примеры успешных промптов в этой области могут варьироваться от написания статей до создания креативного контента.

Определение промпт-инжиниринга

Исследование OpenAI с использованием бенчмарка SimpleQA подчеркнуло серьёзные вызовы, стоящие перед индустрией искусственного интеллекта. Пока ИИ-модели чаще придумывают ответы, чем отвечают по существу, важно осознавать их ограничения и продолжать работать над улучшением точности и надёжности этих технологий. Такие результаты вызывают обеспокоенность у пользователей и специалистов в области ИИ. Для компаний, внедряющих эти технологии, важно понимать ограничения и риски, связанные с использованием текущих моделей. Причиной такой уверенности в ошибочных ответах является архитектура современных языковых моделей.  https://www.mapleprimes.com/users/click-formula Они обучаются на огромных массивах данных и стремятся предсказывать наиболее вероятное продолжение текста. Улучшение алгоритмов, создание более сложных нейронных сетей и работа над пониманием контекста приведут к тому, что ИИ будет генерировать еще более точные и актуальные ответы. Мы можем ждать, что в будущем AI станет не только более интеллектуальным, но и более человечным в своих откликах. Контекст — это то, что делает процесс генерации ответов исключительным. Без учета контекста ИИ может дать неверное или неуместное решение. Например, слово «банк» может означать финансовую организацию или берег реки. Поэтому ИИ анализирует предыдущие запросы и общую тему разговора, чтобы обеспечить более точные и релевантные ответы. Проблема усугубляется тем, что модели склонны «переоценивать свои возможности» и выдавать ответы, которые являются полной ерундой, известной как «галлюцинации». Эта тенденция хорошо документирована и может привести к серьёзным последствиям, особенно в таких чувствительных областях, как здравоохранение и правоохранительная деятельность. Например, модель ИИ, используемая в больницах и построенная на технологии OpenAI, была замечена в частых галлюцинациях и неточностях при расшифровке взаимодействий с пациентами. Полицейские в США также начинают использовать ИИ, что может привести к ложным обвинениям невиновных или усилению предубеждений.