TechCrunch опубликовал глоссарий ключевых терминов ИИ

TechCrunch опубликовал глоссарий ключевых понятий в сфере искусственного интеллекта — от AGI и больших языковых моделей до агентов, галлюцинаций и новых методов рассуждения. Издание отмечает, что словарь отрасли быстро расширяется вместе с развитием генеративных моделей и инструментов автоматизации. Модели, агенты и вычисления AGI, или общий искусственный интеллект, обычно называют системой, способной выполнять множество задач на уровне выше среднего человека. В то же время единого определения термина нет: устав OpenAI, генеральный директор компании Сэм Альтман и Google DeepMind описывают AGI несколько по-разному. AI-агентом называют инструмент, способный самостоятельно выполнять последовательность действий для достижения цели: например, бронировать билеты, оформлять расходы или работать с кодом. Отдельной категорией являются агенты для программирования, которые могут писать, тестировать и отлаживать код, хотя результаты их работы требуют проверки человеком. Большие языковые модели, или LLM, используют популярные ИИ-помощники, в том числе ChatGPT, Claude, Gemini, Llama, Microsoft Copilot и Le Chat. Это глубокие нейронные сети с миллиардами параметров, которые изучают связи между словами и фразами на больших массивах текстов. Инференсом называют запуск уже обученной модели для формирования прогнозов или ответов, а compute — вычислительные ресурсы, включая GPU, CPU, TPU и другую инфраструктуру. Больше актуальных новостей — в Telegram-канале UA.News Telegram. Обучение и контроль ответов Цепочка рассуждений, или chain of thought, означает разделение сложной задачи на промежуточные шаги. Такой подход может занимать больше времени, однако помогает повысить точность ответов, в частности в логических задачах и программировании. К методам совершенствования моделей также относятся дообучение на специализированных данных и дистилляция, когда более компактная модель учится воспроизводить поведение большей. Галлюцинациями называют случаи, когда модель генерирует ложную информацию. Это может создавать риски, в частности когда система дает ошибочные советы в чувствительных сферах. Среди других понятий в глоссарии — диффузионные модели для создания изображений, музыки и текстов, генеративно-состязательные сети GAN и архитектура Mixture of Experts, где для каждого запроса активируется лишь часть специализированных подсетей. Непрозрачная рекуррентность TechCrunch отдельно обращает внимание на opaque recurrence — «непрозрачную рекуррентность». При таком подходе модель не формирует рассуждение пошагово на понятном языке, а многократно пропускает один и тот же запрос через внутренние слои. Издание пишет, что это может быть более эффективным и позволять меньшим моделям демонстрировать более высокую производительность при меньших вычислительных затратах, но одновременно оставляет меньше доступных для проверки следов рассуждения. Исследователи безопасности ИИ связывают это с усложнением надзора за поведением моделей. Читай нас в Telegram и Sends Загружай наше приложение