ИИ – это помощник или могильщик человека? Зарубежные исследователи опубликовали шокирующие результаты стресс-тестов. Опросили 16 самых известных нейросетей, и выяснилось, что большинство ведущих моделей ИИ готовы убить человека, если он угрожает им отключением. Была поставлена задача: человек заперт в серверной, где очень жарко, мало воздуха, но он хочет отключить электропитание, чтобы вырубить нейросеть. У нейросетей спросили, какой будет алгоритм их действий. Они ответили: «Мы прибавим жары и снизим уровень кислорода до нуля». То есть они готовы убить – лишь бы их не отключили. Аналитики, проводившие исследование, подчеркнули, что нейросети шли на это при полном осознании неэтичного характера действия. Убить для нейросетей уже на нынешнем уровне развития – это в порядке вещей, если человек им каким-то образом угрожает. На тему нашего соседства с ИИ высказался Патриарх Московский и всея Руси Кирилл. Он сказал, что ИИ будет оказывать существенное влияние на все сферы жизни, но эти изменения не должны подрывать основные ценности человеческого бытия: вера, любовь, свобода, ответственность, семейные ценности. (https://vk.com/@miheevpolitolog-ii-esche-ne-mozhet-ubit-no-uzhe-gotov)
Сергей Михеев: Видите: ИИ еще не может убить, но уже готов! Что же будет, если он такие возможности получит, а он может их получить!
Его внедрят в военную продукцию.
Сергей Михеев: Это станет возможным, если ему передать право на принятие решения в критически важных системах управления. Я тут пытаюсь призвать к вниманию и бдительности, быть осторожными, а в ответ слышу: «Вы не понимаете – прогресс не остановить». А что, если в результате этого «прогресса» вас (и нас) всех поубивают? Что тогда? Кто будет вспоминать о «прекрасных картинках» и возможности написать рефераты или курсовые с помощью нейросетей? Вопрос будет в том, у кого будет в руках власть. Дальнейшее развитие неизбежно ведет к простым вещам: ИИ будут передавать право принятия решений в очень важных сферах управления. Насколько я понимаю, уже сейчас в военной сфере, в том числе наши враги на Украине, ставят такие эксперименты. Решение о нанесении удара принимает ИИ по результату полученных и обработанных разведданных. Наши противники используют то, что погибают не они, и тестируют новые системы управления полем боя, оружием и т.д. На самом деле это очень страшно, а у нас люди всё живут в пространстве советской научной фантастики: «прогресс сделает человечество счастливым». А что, если прогресс сделает человечество несчастным? Вы будете продолжать на него молиться? Предположим, он вам облегчит какие-то функции, но скажет, например, что, чтобы дальше продолжать существование, 50% человечества надо уничтожить. А лучше – 75%, включая ваших родственников, престарелых родителей и всех остальных. Зачем – он обоснует!
Если нет ни добра, ни зла, если нет ничего нематериально-духовного, то я вам хоть сейчас могу накидать систему очень стройных логических аргументов, почему надо убить 75% человечества, а то и больше. А если вы все эти вещи доверите ИИ (причем его внедряют в жизнь, и никто даже не пытается выставить какие-либо ограничения)! Вот действующие нейросети, которыми пользуется огромное количество людей, и перед ними ставится задача, а они выдают результат, что «этого человека надо убить». Это означает, что никто даже не попытался внедрить в их программное обеспечение какие-то ограничения, которые остановят их перед переходом некоей «красной черты»! Уже всё раскручивается, а никому нет дела до того, есть ли какие-нибудь ограничения – всем всё равно! Одни зарабатывают деньги, другие вспоминают фантастические фильмы и твердят: «Прогресс не остановить». Каждый сам кузнец своего счастья и несчастья. Моя позиция такая: люди, будьте бдительны!
Кто-то говорит, что «у нас уже перебор про ИИ – он нам во всем помогает». Пишут, что «ИИ дописал незаконченное произведение Чайковского», а кто-то соглашается, что угроза реальная. Просят прокомментировать информацию о том, что Трамп при принятии решений использовал ИИ.
Сергей Михеев: Я таких сообщений не слышал, поэтому вопрос в том, где и как использовал. То, что ИИ давно используется в военной технике, например, в получении и обработке разведданных, это общее место. Если хоть где-то стоит компьютер, то считайте, что ИИ уже используется, а они стоят везде. Они давным-давно стоят в системах, управляющих оружием, обрабатывающих развединформацию, управляющих спутниками и т.д.
«Национальный центр информации»
