Управлять сверхинтеллектуальным ИИ будет невозможно

29.09.2022

Идея свержения человечества искусственным интеллектом обсуждалась десятилетиями, и в 2021 году ученые вынесли свой вердикт о том, можно ли контролировать высокоуровневый компьютерный сверхразум.

Загвоздка в том, что для управления сверхразумом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, который можно анализировать и контролировать. Но если люди не в состоянии это понять, то создать такую симуляцию невозможно.

Такие правила, как "не причинять вреда людям", не могут быть установлены, если люди не понимают, какие сценарии может предложить ИИ. Как только компьютерная система работает на уровне выше возможностей наших программистов, то больше нельзя будет устанавливать ограничения.

Сверхразум представляет собой принципиально иную проблему, чем те, которые обычно изучаются под лозунгом "этики роботов. Это связано с тем, что сверхразум многогранен и, следовательно, потенциально способен мобилизовать разнообразные ресурсы для достижения целей, потенциально непостижимых для людей, не говоря уже о том, чтобы их можно было контролировать.

Часть рассуждений команды исходила из проблемы остановки, сформулированной Аланом Тьюрингом в 1936 году. Проблема заключается в том, чтобы узнать, придет ли компьютерная программа к выводу и ответу (поэтому она остановится), или просто зациклится, пытаясь найти его.

Ученые отметили, как доказал Тьюринг с помощью умной математики, хотя мы можем знать это для некоторых конкретных программ, логически невозможно найти способ, который позволил бы нам узнать это для каждой потенциальной программы, которая когда-либо могла быть написана. Это возвращает нас к ИИ, который в сверхразумном состоянии мог бы одновременно удерживать в своей памяти все возможные компьютерные программы.

По словам ученых, любая программа, написанная для того, чтобы не дать ИИ причинить вред людям и уничтожить мир, например, может прийти к выводу (и остановиться) или нет - математически невозможно быть абсолютно уверенным в любом случае, а это значит, что ее нельзя сдержать. Ученые заявили, что альтернатива обучению ИИ некоторым этическим нормам и указанию ему не разрушать мир - то, в чем ни один алгоритм не может быть абсолютно уверен, - заключается в ограничении возможностей сверхразума.

"Исследование также отвергло эту идею, предполагая, что это ограничит возможности ИИ. Аргумент состоит в том, что если мы не собираемся использовать его для решения проблем, выходящих за рамки человеческих возможностей, то зачем вообще его создавать? Если мы собираемся продвигаться вперед с ИИ, мы можем даже не знать, когда появится сверхразум, неподвластный нашему контролю, такова его непостижимость. Это означает, что нам нужно начать задавать серьезные вопросы о том, в каком направлении мы движемся", - отметили ученые.

<< Назад: Куркумин предотвратит потерю зрения 29.09.2022

>> Вперед: Дрожжам пересажены человеческие гены 28.09.2022

Последние новости науки и техники, новинки электроники:

Глазные капли, возвращающие молодость зрению 05.10.2025

С возрастом человеческий глаз постепенно теряет способность четко видеть на близком расстоянии - развивается пресбиопия, или возрастная дальнозоркость. Этот естественный процесс связан с утратой эластичности хрусталика и ослаблением цилиарной мышцы, отвечающей за фокусировку. Миллионы людей по всему миру сталкиваются с необходимостью носить очки для чтения или прибегают к хирургическим методам коррекции. Однако исследователи из Центра передовых исследований пресбиопии в Буэнос-Айресе представили решение, которое может стать удобной и неинвазивной альтернативой - специальные глазные капли, способные улучшать зрение на длительный срок. Разработку возглавила Джованна Беноцци, директор Центра. По ее словам, цель исследования состояла в том, чтобы предоставить пациентам с пресбиопией эффективный и безопасный способ коррекции зрения без хирургического вмешательства. Новые капли, созданные на основе пилокарпина и диклофенака, показали убедительные результаты: уже через час после первого пр ...>>

Цифровая рация Xiaomi Digital Walkie Talkie 05.10.2025

Компания Xiaomi представила современное устройство, объединившее классические принципы радиосвязи с возможностями цифровых технологий. Новинка под названием Xiaomi Digital Walkie Talkie демонстрирует, как привычные рации могут быть переосмыслены в духе времени. Устройство оснащено цветным дисплеем диагональю 1,57 дюйма, который отображает список контактов, параметры соединения и даже примерное местоположение собеседника. Такой подход превращает стандартную рацию в компактное средство связи, сочетающее функциональность смартфона и устойчивость профессиональной техники. Одним из ключевых преимуществ стала высокая автономность. Встроенный аккумулятор емкостью 2500 мА·ч обеспечивает до 100 часов работы в режиме ожидания и около 14 часов непрерывных разговоров, что особенно важно в экспедициях, на дальних маршрутах или в зонах, где подзарядка невозможна. Согласно данным портала unionrayo.com, такое время работы выгодно отличает устройство от большинства аналогов. По дальности дейст ...>>

Открыт обращаемый драйвер старения 04.10.2025

Недавняя работа ученых из Сямэньского университета в Китае показала, что в гипоталамусе, главном регуляторе внутренних функций организма, кроется один из ключей к продлению молодости. Команда под руководством Лиге Ленга обнаружила, что снижение уровня белка менина в гипоталамусе связано с ускорением процессов старения. Менин, как выяснилось, играет важную роль в предотвращении воспаления и поддержании нормальной работы нейронов. Когда его уровень снижается, в мозге возрастает активность воспалительных сигналов, что запускает цепную реакцию возрастных изменений во всем организме - от ослабления когнитивных функций до потери плотности костей и истончения кожи. Чтобы понять, как именно менин влияет на старение, ученые вывели генномодифицированных мышей, у которых этот белок можно было выборочно отключить. Даже у молодых животных такое вмешательство быстро привело к ухудшению памяти, снижению прочности костей и эластичности кожи, а также к укорочению жизни. Эти результаты убедительно ...>>

Твердотельные батареи Panasonic 04.10.2025

Твердотельные аккумуляторы считаются следующим шагом в эволюции энергосистем: в отличие от традиционных литиево-ионных, они не содержат жидкого электролита, что существенно снижает риск возгорания и утечки. Именно на это делает ставку Panasonic, намереваясь завершить подготовку первых образцов к марту 2027 года, то есть к концу 2027 финансового года. Как сообщил технический директор подразделения Panasonic Energy Сеичиро Ватанабе, после выпуска опытных моделей клиенты проведут тесты, которые могут занять около двух лет, прежде чем начнется полноценное серийное производство. Хотя основным направлением для компании по-прежнему остаются литиево-ионные аккумуляторы, Panasonic стремится использовать свой опыт в сфере электромобильных технологий, чтобы выйти на новые рынки - прежде всего в области роботов и промышленных систем. На этом направлении японская корпорация намерена соперничать с такими компаниями, как TDK, уже закрепившимися в сегменте твердотельных решений. Интерес к новой ...>>

Кислотность океана разрушает зубы акул 03.10.2025

Мировые океаны выполняют важнейшую функцию - они поглощают около трети углекислого газа, выбрасываемого в атмосферу. Это помогает замедлять темпы глобального потепления, но имеет и обратную сторону. Растворяясь в воде, CO2 образует угольную кислоту, которая повышает концентрацию водородных ионов и приводит к снижению pH. Вода становится более кислой, а последствия этого процесса уже заметны для морских экосистем. Средний показатель кислотности океана сейчас равен примерно 8,1, тогда как еще недавно за условную норму брали значение 8,2. По прогнозам, к 2300 году уровень может упасть до 7,3 - это сделает океан почти в десять раз кислее нынешнего состояния. Для обитателей морей подобные изменения означают не просто сдвиг химического равновесия, а реальную угрозу физиологическим процессам, начиная от формирования раковин у моллюсков и заканчивая охотничьим поведением акул. Чтобы выяснить, как именно кислотная среда отражается на зубах акул, группа немецких исследователей провела эксп ...>>

Случайная новость из Архива Клубника улучшает память 07.11.2023 Регулярное употребление клубники оказывает положительное воздействие на память и настроение среди людей среднего возраста с легким когнитивным нарушением. Противовоспалительные свойства антоцианов, входящих в состав клубники, могут снижать риск развития деменции у этой возрастной группы. Одна из теорий предполагает, что старение когнитивных функций и развитие неврологических заболеваний, таких как болезнь Альцгеймера, связаны с воспалительными процессами в организме, включая мозг. Метаболические нарушения и ожирение усиливают эти процессы, что может привести к увеличенному риску деменции у людей с избыточным весом и инсулинорезистентностью. Следовательно, считается, что снижение воспаления может уменьшить вероятность развития деменции и даже помочь в ее лечении. Противовоспалительные вещества, такие как антоцианы, часто встречаются в природных продуктах, включая ягоды и клубнику, которая, как выяснили ученые Университета Цинциннати, обладает способностью проникать через гематоэнцефалический барьер в мозг. С этой точки зрения, исследователи решили проверить, может ли регулярное употребление клубники повлиять на когнитивные функции. В ходе исследования 30 участников в возрасте от 50 до 65 лет, преимущественно женщин с избыточным весом или ожирением и легкими нарушениями памяти, принимали клубничные капсулы, эквивалентные 130 граммам свежих ягод, или плацебо в течение 12 недель. В результате не было выявлено улучшений в метаболических показателях, связанных с избыточным весом, а также в исполнительных функциях, словесной памяти или пространственных навыках. Однако группа, принимавшая клубнику, проявила уменьшение интерференции памяти - явления, когда старые воспоминания мешают вспоминать новые, особенно в старшем возрасте и при деменции. Кроме того, участники группы клубники сообщили об улучшении настроения по сравнению с теми, кто принимал плацебо. Эти результаты позволяют предположить, что добавка из клубники может снизить риск развития деменции среди людей среднего возраста.

Смотрите полный Архив новостей науки и техники, новинок электроники

www.diagram.com.ua
2000-2025