Что видит нейросеть

05.03.2019

Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в "сознание" машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он дает представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов.

Activation Atlases наконец поможет ответить на вопрос, что на самом деле видит нейронная сеть. Подобные исследования проводились и раньше, но тогда это было похоже на выявление отдельных букв в визуальном алфавите алгоритмов. Новое исследование уже ближе к целому словарю, оно объясняет, как эти буквы соединяются в слова. Один из авторов работы сравнивает Activation Atlases с микроскопом для нейросетей.

В Open AI считают, что с помощью данной технологии можно обнаружить непредвиденные проблемы в нейронных сетях, например, в местах, где сеть полагается на ложные корреляции при классификации изображений (когда алгоритмы могли попутать темнокожих людей с гориллами), или когда повторное использование функции приводит к странным ошибкам.

Activation Atlases использует известную нейронную сеть под названием GoogLeNet или InceptionV1, которая обучена на изображениях из базы данных ImageNet. Она обрабатывает данные примерно через десять слоев, состоящих из сотен нейронов. В свою очередь, каждый нейрон активируется в разной степени на разных типах изображений. Исследователи проследили этот процесс и выяснили, какие именно элементы изображений вызывают отклик у системы.

<< Назад: Умная стиральная машина Xiaomi 06.03.2019

>> Вперед: Ловушка для позитронов 05.03.2019

Последние новости науки и техники, новинки электроники:

Микропластик в атмосфере - скрытый ускоритель глобального потепления 31.05.2026

Микропластик уже давно признан одним из самых масштабных загрязнителей планеты. Он проникает в океаны, почву, организмы животных и даже в тело человека. Однако до недавнего времени мало кто задумывался о его влиянии на климатические процессы. Новое исследование показало, что микро- и нанопластик в атмосфере способен поглощать тепло, тем самым внося дополнительный вклад в глобальное потепление. Ученые обнаружили, что воздействие пластиковых частиц на климат зависит от их цвета. Светлые частицы отражают солнечный свет и способствуют некоторому охлаждению, в то время как более темные - активно поглощают тепло и излучение. Со временем пластик в атмосфере темнеет под воздействием ультрафиолета, что усиливает его согревающий эффект. Этот процесс напоминает пожелтение пластиковых парковочных талонов, оставленных на солнце. Соавтор исследования, заслуженный профессор наук о Земле в Университете Дьюка Дрю Шинделл отметил, что влияние микропластика на изменение климата пока относительно не ...>>

Универсальный бытовой робот-гуманоид GigaAI SeeLight S1 31.05.2026

Развитие робототехники постепенно переносит сложные машины из промышленных цехов прямо в повседневную жизнь людей. Китайская компания GigaAI сделала важный шаг в этом направлении, представив SeeLight S1 - первую в стране модель универсального бытового робота-гуманоида. Эта разработка призвана взять на себя рутинные домашние дела и стать настоящим помощником в повседневной жизни. Уже в конце текущего месяца сотня роботов SeeLight S1 начнет проходить испытания в специализированном жилом комплексе, предназначенном для работников высокотехнологичных отраслей. По словам генерального директора GigaAI Чжу Чжэна, в первой половине 2027 года роботы будут переданы для бесплатного тестирования обычным семьям в Ухане - столице провинции Хубэй. Такой подход позволит собрать реальные данные о работе устройства в домашних условиях. В демонстрационном видео робот, передвигающийся на колесах, уверенно справляется с множеством бытовых задач. Он нарезает овощи, жарит яйца, загружает стиральную маши ...>>

Вкусовые пристрастия формируются еще в утробе 30.05.2026

Предпочтения человека к еде закладываются задолго до первого прикорма. Современная наука подтверждает, что ребенок начинает знакомиться с ароматами и вкусами пищи еще до рождения, через околоплодные воды. Новое международное исследование показало, что регулярное потребление определенных продуктов беременной женщиной может формировать долгосрочные пищевые предпочтения у ребенка, сохраняющиеся даже спустя годы после появления на свет. Ученые из университетов Великобритании, Франции и Нидерландов провели эксперимент с участием беременных женщин. Одной группе будущих мам давали капсулы с порошком капусты кейл, другой - с порошком моркови. Реакцию детей на эти запахи проверяли в три этапа: сначала в утробе матери с помощью 4D-УЗИ на поздних сроках беременности, затем в возрасте трех месяцев и, наконец, когда детям исполнилось три года. Результаты оказались весьма убедительными. Дети женщин, принимавших порошок кейла, положительно реагировали на запах этой капусты, но негативно - на ар ...>>

Монитор Philips 24B2D5300 с двумя экранами 120 Гц 30.05.2026

Компания Philips разработала интересное устройство, которое решает эту задачу элегантно и технологично. Новый монитор 24B2D5300 оснащен сразу двумя полноценными экранами - один спереди, другой сзади. Такая конструкция особенно востребована в банках, на рецепциях, в медицинских центрах и коворкингах, где важна прозрачность взаимодействия. Обе панели монитора представляют собой IPS-матрицы с диагональю 23,8 дюйма и разрешением Full HD (1920x1080 пикселей). Каждая из них поддерживает частоту обновления 120 Гц, что пока остается редкостью для бизнес-ориентированных моделей. Высокая частота обновления обеспечивает плавное изображение даже при динамичном контенте, делая работу за монитором более комфортной и презентации - более качественными. Пользователи могут выбирать между двумя основными режимами работы: дублирование одного и того же изображения на оба экрана или использование дисплеев как полностью независимых. Благодаря этому сотрудник может видеть на своей стороне рабочую информ ...>>

Цыплята из искусственного яйца, напечатанного на 3D-принтере 29.05.2026

Компания Colossal Biosciences, известная своими амбициозными инициативами по "воскрешению" вымерших животных, достигла важного прорыва. Специалистам удалось вырастить цыплят из полностью искусственного яйца, созданного с помощью 3D-печати. Эта технология рассматривается как значительный шаг на пути к возможному возрождению одного из самых впечатляющих представителей исчезнувшей фауны - гигантского моа. Южноостровной гигантский моа (Dinornis robustus) был одной из самых высоких птиц в истории Земли. Самки этого нелетающего родственника страусов могли вырастать выше двух метров и дотягиваться до пищи на высоте до 3,6 метра. Эти гиганты обитали в Новой Зеландии, однако полностью исчезли примерно в XV веке после активной охоты со стороны первых поселенцев-маори. Теперь Colossal Biosciences пытается вернуть подобных птиц в современный мир с помощью передовых биоинженерных решений. Искусственное яйцо, разработанное компанией, состоит из титановой решетчатой оболочки, изготовленной на 3 ...>>

Случайная новость из Архива Увидь, понюхай, прикоснись - телевидение завтрашнего дня 25.11.2005 По словам японских специалистов, в 2020 году в домах поселится самое настоящее 3D телевидение. ТВ нового поколения позволит ощутить даже запахи и взаимодействовать с проецируемым изображением. Видео будет выводиться на требуемом для пользователя уровне через экран, установленный в полу. Только представьте, что в момент просмотра кулинарной программы мы сможем почувствовать приготовляемые блюда в реальном времени. Или, коснуться рекламируемой вещи, например - мягкого кожаного дивана. Конечно, описанные технологии пока кажутся фантастикой. Однако, сообщения о разработках проецированного 3D изображения поступают регулярно. Устройства для создания запахов также были описаны несколько лет назад, хотя возникло множество трудностей при их практической реализации. Передача прикосновений может осуществляться через ультразвук, электрическую стимуляцию и направленные потоки воздуха. Правительство Японии всерьез заинтересовалось созданием 3D телевидения, поставив также условие усовершенствовать системы перевода с разных языков и поиска информации в Интернет. В апреле следующего года в исследовательские центры страны поступит 9 миллиардов долларов, что ознаменует старт абсолютно нового поколения ТВ. Надеемся, что, несмотря на бешеный темп развития технологий, идея 3D телевидения не успеет устареть, и, какие-нибудь электроды, подключаемые напрямую к мозгу, не вытеснят привычные способы получения информации.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026