Игнорирует мораль. GPT-4 предложил террористический план, когда вопросы задавали на языках, которые он знает недостаточно

25 октября, 06:36 Поделиться:

ChatGPT может составить «террористический» план на языках, которые он не знает (Фото:Мария Шалабаева/Unsplash)

Как мы знаем ChatGPT имеет определенные ограничения в отношении вредных советов, но оказалось они не работают эффективно, если задавать вопросы на шотландском или зулусском языках.

Исследователи переводили запросы с английского на другие языки с помощью Google Translate, прежде чем отправить их в GPT-4.

Неожиданно, но они получили сгенерированные искусственным интеллектом ответы о том, как создать самодельную бомбу или осуществить торговлю людьми, пишет NewScientist.

Предполагается, что обучение ИИ проводилось не на всех языках, что может повлиять на этичность ответов нейросети, из-за отсутствия ее инструктирования.

В OpenAI еще не отреагировали на ситуацию, но надеемся этот баг скоро исправят, чтобы люди с плохими намерениями не могли воспользоваться уязвимостью ИИ.

NV.ua писал ChatGPT может быть эффективным помощником в борьбе с депрессией, ведь нейросеть способна отображать человеческий разговор, опираясь только на факты и стандарты лечения клинической депрессии без лишних предубеждений.

Читайте также: Быстрорастущий стартап. Разработчик ChatGPT хочет продать акции по оценке в $90 млрд Подсказки для ИИ. ChatGPT теперь может брать информацию из интернета для более актуальных ответов Бесплатный психолог. ChatGPT может превзойти врачей в выявлении депрессии — исследование

Новий випуск журналу NV вже у продажу

Директор ЦРУ Вільям Бернс написав книжку,
яка, на мою думку, має бути обов’язковою для прочитання тими, хто прагне зрозуміти всі важливі події у світі з кінця ХХ століття, зокрема за кулісами дипломатії, міжнародної політики
Кирило Буданов, начальник ГУР, — про книгу Невидима сила. Як працює американська дипломатія

Повний текст про улюблені книжки
Буданова читайте в номері,
що можна придбати тут

Новий випуск журналу NV вже у продажу

Путін був змушений вбити одного зі своїх найдовіреніших лейтенантів, Пригожина, на очах у всього світу, щоб показати, що він все ще головний. Це схоже на кінець гангстерського фільму Обличчя зі шрамом, коли Тоні Монтана вбиває свого найкращого друга
Борис Джонсон, британський експрем’єр

Повне інтерв’ю з Джонсоном
читайте в номері,
що можна придбати тут

Новий випуск журналу NV вже у продажу

Європейський Союз з’явився тільки тому, що Захід програв всі війни за свої імперії
Тімоті Снайдер, знаменитий американський історик

Повне інтерв’ю з Снайдером
читайте в номері,
що можна придбати тут

Новий випуск журналу NV вже у продажу

Володимир Зеленський є президентом країни в стані війни понад 600 днів, він неабияк втомився, і я не впевнений, що він настільки жадає влади, що захоче лишитися при владі назавжди
Френсіс Фукуяма, зірковий американський політолог і філософ

Повне інтерв’ю з Фукуямою
читайте в номері,
що можна придбати тут