29 ноября команда Perplexity представила
проект PPLX Online LLMs – две новые модели pplx-7b-online и pplx-70b-online, которые отличаются от традиционных LLM-моделей (Large Language Models) возможностью использовать информацию из Интернета, что позволяет предоставлять актуальные, полезные ответы, основанные на реальных фактах. Модели доступны через API PPLX и могут быть использованы через площадку Perplexity Labs.
Пример ответа модели pplx-70b-online
Особенности PPLX Online LLM включают в себя:
Актуальность информации: модели способны предоставлять самую актуальную информацию, что является преимуществом перед традиционными LLM-моделями ;
Использование открытых моделей: модели PPLX построены на основе базовых моделей mistral-7b и llama2-70b.
Продвинутая технология поиска: собственная инфраструктура поиска, индексации и сканирования сайтов позволяет моделям использовать наиболее актуальную и релевантную информацию;
Тонкая настройка (Fine-tuning): модели настраиваются для эффективного использования выдержек из сайтов (сниппеты) для формирования ответов.
Эффективность моделей PPLX была оценена через серию тестов, включая сравнения с другими популярными моделями, такими как gpt-3.5-turbo-1106 от OpenAI и llama2-70b-chat от Meta* AI. Результаты показали, что модели pplx-7b-online и pplx-70b-online предпочтительнее по критериям свежести, фактичности и целостности ответов.
Сравнение моделей pplx-7b-online и pplx-70b-online с моделями LLama2 70B и gpt-3.5
Также была анонсирована общедоступная версия API PPLX, вместе с новой системой ценообразования, основанной на использовании. Пользователи Pro будут получать ежемесячный кредит в размере $5 для использования в API.
*Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
Источник: SecurityLab