Управлять сверхинтеллектуальным ИИ будет невозможно

29.09.2022

Идея свержения человечества искусственным интеллектом обсуждалась десятилетиями, и в 2021 году ученые вынесли свой вердикт о том, можно ли контролировать высокоуровневый компьютерный сверхразум.

Загвоздка в том, что для управления сверхразумом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, который можно анализировать и контролировать. Но если люди не в состоянии это понять, то создать такую симуляцию невозможно.

Такие правила, как "не причинять вреда людям", не могут быть установлены, если люди не понимают, какие сценарии может предложить ИИ. Как только компьютерная система работает на уровне выше возможностей наших программистов, то больше нельзя будет устанавливать ограничения.

Сверхразум представляет собой принципиально иную проблему, чем те, которые обычно изучаются под лозунгом "этики роботов. Это связано с тем, что сверхразум многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, потенциально непостижимых для людей, не говоря уже о том, чтобы их можно было контролировать.

Часть рассуждений команды исходила из проблемы остановки, сформулированной Аланом Тьюрингом в 1936 году. Проблема заключается в том, чтобы узнать, придет ли компьютерная программа к выводу и ответу (поэтому она остановится), или просто зациклится, пытаясь найти его.

Ученые отметили, как доказал Тьюринг с помощью умной математики, хотя мы можем знать это для некоторых конкретных программ, логически невозможно найти способ, который позволил бы нам узнать это для каждой потенциальной программы, которая когда-либо могла быть написана. Это возвращает нас к ИИ, который в сверхразумном состоянии мог бы одновременно удерживать в своей памяти все возможные компьютерные программы.

По словам ученых, любая программа, написанная для того, чтобы не дать ИИ причинить вред людям и уничтожить мир, например, может прийти к выводу (и остановиться) или нет - математически невозможно быть абсолютно уверенным в любом случае, а это значит, что ее нельзя сдержать. Ученые заявили, что альтернатива обучению ИИ некоторым этическим нормам и указанию ему не разрушать мир - то, в чем ни один алгоритм не может быть абсолютно уверен, - заключается в ограничении возможностей сверхразума.

"Исследование также отвергло эту идею, предполагая, что это ограничит возможности ИИ. Аргумент состоит в том, что если мы не собираемся использовать его для решения проблем, выходящих за рамки человеческих возможностей, то зачем вообще его создавать? Если мы собираемся продвигаться вперед с ИИ, мы можем даже не знать, когда появится сверхразум, неподвластный нашему контролю, такова его непостижимость. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся", - отметили ученые.

<< Назад: Куркумин предотвратит потерю зрения 29.09.2022

>> Вперед: Дрожжам пересажены человеческие гены 28.09.2022

Последние новости науки и техники, новинки электроники:

Хорошо управляемые луга могут компенсировать выбросы от скота 15.02.2026

Животноводство, особенно разведение крупного рогатого скота, часто обвиняют в значительном вкладе в глобальное потепление из-за мощного парникового газа - метана, который выделяется при пищеварении у жвачных животных. Это вызывает острые политические споры и призывы к сокращению потребления мяса. Однако ученые напоминают, что полная картина климатического воздействия отрасли не ограничивается только выбросами от животных: огромную роль играет окружающая экосистема - пастбища, почва и растительность, которые способны активно поглощать углекислый газ из атмосферы. Исследователи из Университета Небраски-Линкольна решили глубже изучить этот баланс. Группа под руководством профессора Галена Эриксона сосредоточилась на том, как правильно организованные пастбища накапливают углерод в растениях и грунте благодаря естественным процессам, стимулируемым выпасом скота. Ученые подчеркивают, что при достаточном уровне осадков и грамотном управлении такие луга превращаются в мощные природные погло ...>>

NASA тестирует инновационную технологию крыла 15.02.2026

Коммерческая авиация ежегодно расходует колоссальные объемы керосина, что сказывается не только на бюджете авиакомпаний, но и на состоянии окружающей среды. В 2024 году глобальные затраты на авиационное топливо достигли 291 миллиарда долларов, и эта сумма продолжает расти. Чтобы справиться с этими вызовами, NASA активно работает над технологиями, способными заметно повысить аэродинамическую эффективность самолетов. Одним из самых перспективных направлений стало создание специальной конструкции крыла, которая максимизирует естественный ламинарный поток воздуха и минимизирует сопротивление. В январе 2026 года специалисты NASA Armstrong Flight Research Center успешно провели важный этап наземных испытаний концепции Crossflow Attenuated Natural Laminar Flow (CATNLF). Для эксперимента под фюзеляж исследовательского самолета F-15B закрепили вертикально ориентированную масштабную модель высотой около 0,9 м (3 фута), напоминающую узкий киль. Такая компоновка позволила подвергнуть прототип р ...>>

Забота о внуках очень полезна для здоровья мозга 14.02.2026

Общение между поколениями приносит радость всей семье, но мало кто задумывается, насколько активно бабушки и дедушки, заботящиеся о внуках, поддерживают свою умственную форму. Регулярное взаимодействие с детьми стимулирует мозг пожилых людей, помогая сохранять память, скорость мышления и общую когнитивную активность. Новые научные данные подтверждают, что такая добровольная помощь не только важна для общества, но и может замедлять возрастные изменения в мозге. Исследователи из Тилбургского университета в Нидерландах провели анализ, чтобы понять, приносит ли уход за внуками реальную пользу здоровью пожилых людей. Ведущий автор работы Флавия Черечес отметила, что многие бабушки и дедушки регулярно присматривают за детьми, и оставался открытым вопрос, насколько это положительно сказывается на их собственном благополучии, особенно в плане когнитивных функций. Ученые поставили цель выяснить, способен ли регулярный уход за внуками замедлить снижение памяти и других умственных способ ...>>

Оптические системы сортировки и AI для черники и фруктов 14.02.2026

Каждый год потребители ожидают увидеть на прилавках свежие, ровные по размеру и цвету ягоды черники без признаков порчи или обезвоживания, при этом производители стремятся минимизировать потери и сохранить естественную привлекательность продукта. В эпоху растущих требований к качеству и дефицита квалифицированной рабочей силы традиционные методы сортировки фруктов уже не всегда справляются с задачей. Именно поэтому компании активно внедряют оптические сканеры в сочетании с искусственным интеллектом, способные анализировать ягоды с невероятной точностью и скоростью, сохраняя при этом их товарный вид. На выставке Fruit Logistica 2026 в Берлине компания Tomra Food презентовала свои последние достижения в области постуборочной обработки. Центральное место на стенде занимает совершенно новая оптическая сортировочная система, специально разработанная для свежей черники и предназначенная для использования непосредственно в упаковочных цехах. Эта машина охватывает весь путь ягод - от загруз ...>>

Монитор ROG Swift OLED PG32UCDM Gen 3 13.02.2026

Для многих поклонников компьютерных игр выбор монитора - это всегда поиск идеального баланса между потрясающей картинкой, молниеносной скоростью отклика и надежностью в длительных игровых сессиях. Технология QD-OLED уже несколько лет задает высокую планку качества изображения, предлагая глубокий черный цвет, яркие краски и практически мгновенную реакцию пикселей. Однако даже у самых продвинутых панелей оставались слабые места: уязвимость к царапинам, цветовые искажения под определенными углами и заметное отражение в освещенных помещениях. Компания ASUS решила серьезно улучшить ситуацию и представила третье поколение своего популярного 32-дюймового флагмана - ROG Swift OLED PG32UCDM Gen 3. В основе новинки лежит современная 32-дюймовая QD-OLED панель с разрешением 4K (3840 x 2160 пикселей), которая обеспечивает невероятную детализацию и точность цветопередачи. Частота обновления достигает 240 Гц, что делает картинку исключительно плавной даже в самых динамичных сценах шутеров или ...>>

Случайная новость из Архива Европейские сети 100 Гбит/с 25.07.2013 Совместно с японскими учеными Европа планирует разработать технологии строительства локальных 100-гигабитных сетей и подготовить регион к многократному росту интернет-трафика в ближайшие годы. Евросоюз и Япония объявили о шести совместных проектах, одним из которых является проект STRAUSS, посвященный разработке оптоволоконных технологий связи, которые позволят работать на скорости до 100 Гбит/с. Об этом сообщается на сайте Еврокомиссии. В общей сложности объем инвестиций во все шесть проектов составит 18 млн евро. "Одним из проектов является строительство сетей, которые будут в среднем в 5 тыс. раз быстрее по сравнению с современными сетями, существующими в Европе (обеспечивающими скорость передачи данных до 19,7 Мбит/с)", - содержится в официальном сообщении. Речь идет не о подводных кабелях, которые позволяют передавать данные даже на больших скоростях, а о сетях, максимально приближенных к обычным домохозяйствам. В частности, работа будет посвящена созданию недорогих, быстрых и эффективных с точки зрения электропитания коммутаторов, программно-ориентированных оптических передатчиков, и систем управления сетями. Проект STRAUSS имеет важное значение для развития европейской экономики, считают регуляторы: с 2012 по 2013 гг. объем передаваемых по сетям данных увеличился вдвое, а к 2018 г. возрастет еще в 18 раз. "Для передачи таких объемов потребуются более быстрые сети", - содержится в заявлении. На сегодняшний день некоторые британские провайдеры предлагают скорость домашнего подключения до 1 Гбит/с (столько же, сколько, например, предлагает компания Google в США в рамках проекта Google Fiber). Потребности в скорости 100 Гбит/с пока не существует, однако речь идет о потребностях, которые возникнут со временем, и Европа планирует подготовиться к ним. "В будущем интернет не должен знать границ. По крайней мере, границ, которые стали результатом нашей медлительности и неподготовленности", - заявила вице-президент Еврокомиссии Нейли Кроэс (Neelie Kroes). Кроэс в последнее время предпринимает активные шаги по развитию европейской инфраструктуры: в мае она объявила о намерении значительно увеличить объемы выпуска в регионе полупроводниковых компонентов. Помимо этого, Европа и Япония планируют сотрудничество по следующим направлениям: более эффективная эксплуатация радиочастот; новые механизмы защиты персональных данных в таких областях, как медицина; разработка технологий "умного" управления электрическими сетями и т.д.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2026