Публикации по теме 'nlp'


Использование НЛП для обнаружения фейковых новостей 📰
Введение В настоящее время информация может быть легко доступна из любого места 🌏. Это век информации, когда человек может получить доступ к различным событиям по всему миру, не выходя из собственного дома. Это привело к неточности и нерелевантности в обновлении информации людьми, что обычно известно как фейковые новости 😨. Поскольку значительная часть населения использует социальные сети для обновления новостей, предоставление им точной и альтруистической информации имеет..
ChatGPT: первое впечатление
В качестве языковой модели ChatGPT считается одним из самых продвинутых и мощных чат-ботов, доступных в настоящее время. В этой статье мы обсудим, на что способен ChatGPT, как он работает и чем он отличается от других чат-ботов, чтобы помочь вам лучше понять его. Что может ChatGPT? В качестве языковой модели ChatGPT может понимать и генерировать текст. Он может выполнять широкий спектр задач, таких как: Отвечая на вопросы: понимать и отвечать на широкий спектр вопросов по различным..
Построение больших моделей на IPU
Graphcore демонстрирует производительность больших моделей своих систем IPU-POD. Автор: Дэйв Лейси, главный архитектор программного обеспечения Сегодня клиенты используют системы Graphcore IPU-POD для обучения и тонкой настройки больших моделей. У нас есть огромный спрос на обработку естественного языка с растущим интересом к моделям генеративного предварительно обученного преобразователя (GPT) со стороны дальновидных организаций в банковской сфере, здравоохранении, страховании,..
Логика хронологической языковой модели
Группа исследователей недавно опубликовала TimeLMs , документ и серию моделей, обученных на твитах за каждый квартал 2020 и 2021 годов. Документ убедителен и иллюстрирует, как языковые модели стареют после обучения с помощью красивой градиентной таблицы: Современные языковые модели — это тема, о которой я писал в 2020 году с похожими примерами из эпохи ковида и не попал в BigScience в 2021 году, хотя моя идея туманно заключалась в том, чтобы латать модели. Эта статья является..
Чат-боты на основе BERT: улучшение разговорного ИИ с помощью двунаправленного кодирования
Краткое введение: как двунаправленное кодирование с помощью BERT повышает производительность чат-бота. Введение В последние годы чат-боты становятся все более популярными, и многие компании используют их для обслуживания клиентов, продаж и других задач. Эти виртуальные помощники могут предоставлять быстрые персонализированные ответы на запросы клиентов, освобождая сотрудников-людей, чтобы сосредоточиться на более сложных задачах. Однако традиционные чат-боты имеют ограничения,..
Точная настройка с эффективным использованием параметров (PEFT) для LLM: комплексное введение
Концептуальный обзор методов PEFT, используемых Hugging Face, Google Vertex AI и, в конечном итоге, OpenAI. Большие языковые модели (LLM) довольно большие по названию. Эти модели обычно имеют от 7 до 70 миллиардов параметров. Для полной загрузки модели с 70 миллиардами параметров потребуется 280 ГБ памяти графического процессора! Чтобы обучить эту модель, вам придется обновить миллиарды токенов в миллионах или миллиардах документов. Требуемые вычисления значительны для обновления..
Синтаксический анализатор зависимостей или как найти синтаксических соседей слова
В этой статье мы рассмотрим теорию, чтобы развенчать эту малоизвестную часть НЛП. Затем, во второй статье, мы предложим инструменты, которые помогут вам понять, как легко реализовать анализатор зависимостей. Когда мы думаем о соседях слова, мы можем думать о соседстве как об их расположении в предложении, об их отношении к другим словам (подлежащему, определяющему и т. Д.), Называемом синтаксисом, или как об их смысловом сходстве, называемом семантикой. Здесь нас интересует синтаксическая..