США та РФ виключили з угоди пункт про людський контроль над ШІ-зброєю
Представники США та Росії прибрали з проєкту ООН положення, яке вимагало, щоб люди перевіряли визначені ШІ військові цілі перед завданням удару.
Американські та російські дипломати об’єднали зусилля для того, щоб вилучити із проєкту договору ООН основні положення які встановлюють контроль людини над штучним інтелектом при застосуванні смертоносної зброї. Про це пише The Washington Post з посиланням на джерела.
За даними видання, на початку вересня сотні дипломатів зібралися в Женеві для розробки першої глобальної угоди щодо використання смертоносної автономної зброї. В останній день переговорів представники США та Росії на закритому засіданні протягом 15 годин переробляли документ. Обидві країни залучили приблизно по 10 юристів, що значно перевищило дипломатичну присутність інших делегацій.
“За словами джерел, американські та російські дипломати прибрали формулювання, яке вимагало від автономної системи працювати “передбачуваним” та “надійним” способом, і вилучили пункт, що зобов’язував враховувати етичні міркування під час використання ШІ-зброї. Крім того, представники США та Росії прибрали положення, яке вимагало, щоб люди перевіряли визначені ШІ військові цілі перед завданням удару.
Зміни до цієї угоди, деталі якої раніше не розголошувалися, демонструють, як Сполучені Штати і Росія намагалися послабити глобальні правила регулювання смертоносної зброї зі штучним інтелектом”.
Один зі співрозмовників видання назвав процес редагування угоди “смертю від тисячі дрібних порізів”.
Зазначається, що бурхливе обговорення в Женеві відбувалося на тлі того, як Пентагон прагне швидко впровадити ШІ у свою стратегію ведення бойових дій, поки тривають дебати щодо екзистенційних ризиків, пов’язаних із розвиненим штучним інтелектом.
За даними видання, американські військові вже використовували ШІ компанії Anthropic для виявлення та завдання ударів по майже 1000 цілях у перші 24 години конфлікту з Іраном.
За словами заступниці директора з питань озброєнь Human Rights Watch Веріті Койл, послаблення правил означатиме, що “машини зможуть приймати рішення про життя і смерть без контролю з боку людини”. Вона наголосила, що це призведе до збільшення шкоди для цивільного населення та пришвидшить перехід до “більш ризикованої, автоматизованої війни”.
Нагадаємо, керівники провідних світових компаній у сфері штучного інтелекту 23 вересня попередили Раду Безпеки ООН про ризики, які штучний інтелект може представляти для людства.
Люди бояться ШІ: більшість бачить ризик для існування людства
Читайте Korrespondent.net в Google News
Джерело інформації: Korrespondent Net