Языковая модель Dolly 2.0

21.04.2023

Американская компания по корпоративному программному обеспечению Databricks выпустила Dolly 2.0 - следующую версию своей большой языковой модели (LLM), с подобными ChatGPT функциями. Это первая LLM с открытым исходным кодом и набором инструкций для обучения в свободном доступе, что поможет компаниям использовать ИИ-технологию для собственных коммерческих проектов - без необходимости оплаты API или обмена данными с третьими сторонами.

В последние месяцы было выпущено немало языковых моделей, подобных GPT от OpenAI, которые по многим определениям можно было считать открытыми. Одна из таких - LLaMA от Meta, которой, в свою очередь, вдохновились Alpaca, Koala, Vicuna и Dolly 1.0

Однако многие из этих "открытых" моделей находились под контролем разработчиков систем - например, ИИ-проект команды из Стэнфорда Alpaca, который был обучен на инструкциях GPT-3.5 и создан на основе LLaMA 7B. Условия использования OpenAI включают правило о том, что исследователи не могут использовать продукты систем, конкурирующих с компанией.

Цель Databricks - решить эту проблему. Dolly 2.0 - это большая языковая модель с 12 миллиардами параметров, основанная на семействе моделей искусственного интеллекта Eleuther с открытым кодом и настроенная исключительно на небольшой блок инструкций (databricks-dolly-15k), созданный сотрудниками Databricks. Условия лицензирования этого набора данных позволяют использовать, изменять и расширять его для любых целей, включая академические или коммерческие программы.

Как и оригинальная Dolly, версия 2.0 не является самой современной, но "демонстрирует удивительно эффективный уровень выполнения инструкций, учитывая размер блока для обучения. Уровень усилий и затрат, необходимых для создания мощных технологий искусственного интеллекта, значительно меньший, чем представлялось ранее.

<< Назад: Клавиатура и мышь - лучшие индикаторы стресса 21.04.2023

>> Вперед: Гравитация может создавать свет 20.04.2023

Последние новости науки и техники, новинки электроники:

Впервые преоодолена передача ВИЧ от матери к ребенку 02.01.2026

Проблема вертикальной передачи ВИЧ - от матери к ребенку - остается одной из ключевых задач глобальной медицины. Недавний отчет Всемирной организации здравоохранения (ВОЗ) демонстрирует историческое достижение: Бразилия впервые в своей истории полностью преодолела этот путь передачи вируса. Страна стала 19-й в мире и первой с населением более 100 миллионов человек, которая достигла такого результата. Достижения Бразилии основаны на комплексных медицинских программах, обеспечивающих своевременный доступ к диагностике и терапии для всех слоев населения. ВОЗ официально подтвердило, что уровень передачи ВИЧ от матери к ребенку снизился до менее двух процентов. Более 95% беременных женщин в стране получают регулярный скрининг на ВИЧ и необходимое лечение в рамках стандартного ведения беременности. Изначально программа тестировалась в крупных муниципалитетах и штатах с населением более 100 тысяч человек, а затем была масштабирована на всю страну. Такой подход позволил унифицировать ста ...>>

Нанослой германия увеличивает эффективность солнечных батарей на треть 02.01.2026

Разработка высокоэффективных солнечных батарей остается одной из ключевых задач современной энергетики. Недавнее исследование южнокорейских ученых позволило повысить производительность тонкопленочных солнечных элементов почти на 30%, что открывает новые перспективы для возобновляемых источников энергии, гибкой электроники и сенсорных устройств. Команда исследователей сосредоточилась на элементах на основе моносульфида олова (SnS) - нетоксичного и доступного материала, который идеально подходит для гибких солнечных панелей. До настоящего времени эффективность SnS-устройств оставалась низкой из-за проблем на границе контакта с металлическим электродом. В этой области возникали структурные дефекты, диффузия элементов и электрические потери, что существенно ограничивало возможности таких батарей. "Этот интерфейс был главным барьером для достижения высокой производительности", - отмечает профессор Джейонг Хо из Национального университета Чоннам. Для решения этих проблем ученые предлож ...>>

Электростатическое решение для борьбы с льдом и инеем 01.01.2026

Борьба с льдом и инеем на транспортных средствах и критически важных поверхностях зимой остается сложной и затратной задачей. Ученые из Virginia Tech разработали инновационную технологию, способную разрушать лед и иней без использования тепла или химических реагентов, что открывает новые возможности для безопасной и экологичной зимней эксплуатации транспорта. Исследователи обнаружили, что лед и иней образуют кристаллическую решетку с так называемыми ионными дефектами - заряженными участками, способными перемещаться под воздействием электрического поля. Эти дефекты являются ключом к управлению прочностью льда и его удалением с поверхностей. Когда на замерзшую поверхность подается положительный электрический заряд, отрицательные ионные дефекты притягиваются к источнику поля. Это вызывает разрушение кристаллической решетки льда, в результате чего часть льда буквально "отскакивает" от поверхности. Такой эффект позволяет удалять лед без применения внешнего тепла или химических средств ...>>

Древний лед Антарктики 01.01.2026

Изучение древних ледниковых слоев - один из самых надежных способов понять, как формировался климат Земли и как он может изменяться в будущем. Недавнее открытие международной группы исследователей в Антарктике дает уникальную возможность заглянуть на миллионы лет назад и получить ценную информацию о атмосфере нашей планеты. В районе Аллан-Хиллс ученые пробурили керны древнего льда и обнаружили слои, возраст которых оценивается примерно в 6 миллионов лет. Это старейший лед, когда-либо найденный на Земле и датированный напрямую, что делает находку беспрецедентной в истории климатологии. Особое значение имеют крошечные пузырьки воздуха, запечатленные в ледяных кристаллах. Они служат настоящими "капсулами времени", сохраняя состав атмосферы прошлого. Анализ этих пузырьков позволяет восстановить климатические условия древней Земли, когда средние температуры были выше современных, а уровень океанов значительно выше нынешнего. Древние ледяные керны можно рассматривать как подробные х ...>>

Нано-уровень управления светом 31.12.2025

Современная нанофотоника стремится превратить свет в инструмент точного управления на микроскопическом уровне. Недавние исследования международной команды ученых открывают новые возможности в этой области, позволяя манипулировать светоматериальными волнами на наноуровне с беспрецедентной точностью. Такие достижения могут стать ключом к созданию сверхбыстрых коммуникационных систем и высокочувствительных сенсоров. В центре внимания исследователей оказались гиперболические фонон-поляритоны - особый тип волн, возникающих при взаимодействии света с колебаниями вещества. Эти волны способны концентрировать свет в пространственных масштабах, значительно меньших длины его волны, что позволяет создавать устройства с высокой плотностью интеграции и повышенной функциональностью. Работа велась совместно учеными из Шанхайского транспортного университета, Национального центра нанонауки и технологий Китая, а также коллегами из Испании. Они предложили двухэтапную схему возбуждения волн: сначала ...>>

Случайная новость из Архива Длинношеее ископаемое 01.11.2006 В Монголии, на востоке пустыни Гоби, в нижнемеловых отложениях найдены кости динозавров нового рода. Ящер назван Erketuellisoni в честь главного из божеств исконной монгольской религии и известного американского палеонтолога Эллисона. Рептилия отличается самой длинной шеей в ныне живущем и вымершем животном мире. Шея длиной 8 метров составляет почти половину длины всего туловища с хвостом. В шейных позвонках много воздушных полостей, которые, видимо, облегчали вес шеи. Новый динозавр родственен тиранозаврам и бронтозаврам.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2025