Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Оптимальная продолжительность сна 12.11.2025

Сон играет ключевую роль в поддержании здоровья, когнитивных функций и общего самочувствия. Несмотря на широко распространенный стереотип о восьмичасовом сне, последние исследования показывают, что оптимальная продолжительность сна для большинства здоровых взрослых ближе к семи часам. Эволюционный биолог из Гарварда, Дэниел Э. Либерман, утверждает, что традиционная норма восьми часов сна - это скорее культурное наследие индустриальной эпохи, чем биологическая необходимость. По его словам, полевые исследования, проведенные в сообществах, не использующих электричество, показывают, что средняя продолжительность сна составляет 6-7 часов, что значительно отличается от общепринятого стандарта. Современные эпидемиологические данные подтверждают этот взгляд. Исследования выявили так называемую "U-образную кривую" зависимости между продолжительностью сна и рисками для здоровья. Минимальные показатели заболеваемости и смертности наблюдаются именно у людей, спящих около семи часов в сутки. ...>>

Дефицит кислорода усиливает выброс закиси азота 12.11.2025

Парниковые газы играют ключевую роль в изменении климата, а закись азота (N2O) - один из наиболее опасных среди них. Этот газ не только втрое сильнее углекислого газа в удержании тепла, но и разрушает озоновый слой. Недавнее исследование американских ученых показало, что микробы в зонах с низким содержанием кислорода активно производят N2O, усиливая глобальные климатические риски. Команда из Университета Пенсильвании изучала прибрежные воды у Сан-Диего и провела наблюдения на глубинах от 40 до 120 метров в Восточной тропической северной части Тихого океана - одной из крупнейших зон дефицита кислорода. Исследователи сосредоточились на том, как морские микроорганизмы превращают нитраты в закись азота. В ходе работы выяснилось, что существует два пути образования N2O. Один путь начинается с нитрата, другой - с нитрита. На первый взгляд более короткий путь должен быть эффективнее, однако микробы, использующие нитрат, продуцируют больше газа, поскольку этот "сырьевой" источник более д ...>>

Омега-3 помогают молодым кораллам выживать 11.11.2025

Сохранение коралловых рифов становится все более актуальной задачей в условиях глобального изменения климата. Молодые кораллы особенно уязвимы на ранних стадиях развития, когда стрессовые условия и нехватка питательных веществ могут привести к высокой смертности. Недавнее исследование ученых из Технологического университета Сиднея показывает, что специальные пищевые добавки способны существенно повысить выживаемость личинок кораллов. В ходе работы исследователи разработали особый состав "детского питания" для коралловых личинок. В него вошли масла, богатые омега-3 жирными кислотами, а также важные стерины, необходимые для формирования клеточных мембран. Личинки, получавшие эти добавки, развивались быстрее, становились крепче и демонстрировали более высокую устойчивость к стрессовым факторам. Особое внимание ученые уделили липидам. Анализ показал, что личинки активно усваивают эти вещества, что напрямую влияет на их жизнеспособность. Стерины, содержащиеся в корме, повышают устойчи ...>>

Наушники Bowers & Wilkins Px8 S2 11.11.2025

Наушники премиум-класса становятся не только аксессуаром для прослушивания музыки, но и инструментом для профессиональной работы с аудио. Новый флагман британского бренда Bowers & Wilkins - модель Px8 S2 - демонстрирует, как эти аспекты можно объединить в одной беспроводной системе. Компания представила Px8 S2 как обновленную флагманскую модель в линейке, ориентированную на пользователей, которые ценят высокое качество звука, эффективное шумоподавление и премиальный дизайн. Производитель отмечает, что наушники сочетают передовые акустические решения с эргономикой для длительного использования. Каждое устройство оснащено 40-миллиметровыми динамиками с карбоновыми диффузорами и 24-битным цифровым процессором. По словам Bowers & Wilkins, это обеспечивает точное и детализированное воспроизведение звукового спектра, а также поддержку аудио высокого разрешения. Автоматическая оптимизация соединения с источником сигнала гарантирует стабильное и качественное звучание вне зависимо ...>>

Шимпанзе могут менять свои убеждения 10.11.2025

Понимание того, как формируются убеждения и принимаются решения, традиционно считалось уникальной способностью человека. Однако недавнее исследование показало, что шимпанзе обладают способностью пересматривать свои мнения на основе новых данных, демонстрируя уровень рациональности, который ранее считался исключительно человеческим. Психологи под руководством Ханны Шлейхауф из Утрехтского университета провели серию экспериментов, направленных на изучение метапознания у шимпанзе. Исследователи впервые наблюдали, как эти обезьяны могут взвешивать различные виды доказательств и корректировать свои решения при появлении более убедительной информации. Экспериментаторы рассматривали рациональность как способность формировать убеждение о мире на основе фактических данных. При поступлении новой информации разумное существо способно сравнивать старые и новые данные и изменять свое мнение, если новые доказательства оказываются более весомыми. Для экспериментов использовались шимпанзе из ...>>

Случайная новость из Архива Мнимая многозадачность улучшает работу мозга 24.11.2018 Психологи из университетов Мичигана, Пенсильвании и Йеля выяснили, для человека порой неважно, что именно имеется в виду под многозадачностью и сколько задач он выполняет одновременно. Важно представлять себе, что ты многозадачен, и от одного только этого представления мозг начинает работать лучше. В эксперименте участвовали более полутора сотен человек, которые должны были смотреть и расшифровывать образовательный ролик канала Animal Planet. Фокус был в том, что кому-то говорили, что им придется выполнять одновременно два задания: выучить то, о чем идет речь в ролике, и сделать текстовую транскрипцию; другим же говорили, что они выполняют только одно задание, цель которого - проверить их способности к обучению и стенографии. Задание, повторим, у тех и у других было одно и то же, отличалось лишь его восприятие: для одних оно было однозадачным, для других - многозадачным. Однако те, кто верил, будто выполняет два задания, записали больше слов, сделали меньше ошибок и лучше прошли тест на понимание того, что они узнали из видео. Похожие результаты получились в другом эксперименте, которые провели в интернете: на экране перед человеком появлялись две головоломки в виде набора слов, с которыми нужно было что-то сделать. Только в одном случае обе головоломки выступали как часть одного и того же задания, и обе их показывали на одном и том же фоне; в другом случае головоломки были те же самые, но их подавали как два разных задания, и обе они были подсвечены разным фоном. Те, у кого перед глазами были как бы два разных задания, полагали, что они работают в многозадачном режиме - и в итоге выполняли задание лучше, чем "однозадачники". Ученые что так происходит из-за того, что человек, думающий, что он в данный момент многозадачен, глубже погружается в то, чем он занят, и потому лучше выполняет свое задание. Чтобы проверить, так ли это, исследователи измерили, насколько расширяются зрачки у участников эксперимента во время выполнения заданий - считается, что чем шире зрачок, тем сильнее вовлеченность, тем больше когнитивных ресурсов идет на выполнение задачи. Действительно, у "многозадачников" зрачки были шире, то есть они и впрямь были глубже вовлечены в работу, были более внимательны, собраны и т. д.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2025