Microsoft заборонив поліції розпізнавати обличчя через Azure
Корпорація Microsoft підтвердила заборону поліцейським департаментам США використовувати генеративний штучний інтелект для розпізнавання облич через Azure OpenAI Service.
Про це повідомляє TechCrunch.
Повна заборона на використання служби Azure OpenAI стосується лише поліції США, а не міжнародної поліції. І це не поширюється на розпізнавання обличчя, що виконується за допомоги стаціонарних камер у контрольованому середовищі, наприклад у бек-офісі.
Зміни в політиці відбулися через тиждень після того, як Axon, виробник техніки та зброї для військових і правоохоронців, анонсував новий продукт, який використовує генеративну текстову модель OpenAI GPT-4 для підсумовування звуку з натільних камер.
Критики швидко вказали на потенційні підводні камені:
- галюцинації ШІ — навіть найкращі генеративні моделі штучного інтелекту сьогодні помиляються;
- расові упередження, введені з даних навчання — це особливо тривожно, враховуючи, що небілих людей набагато частіше зупиняє поліція.
Незрозуміло, чи використовував Axon GPT-4 через службу Azure OpenAI, і якщо так, чи була оновлена політика відповіддю на запуск продукту Axon. Раніше OpenAI обмежував використання своїх моделей для розпізнавання обличчя через свої API.
Источник: speka.media