Microsoft a réaffirmé son interdiction aux services de police américains d'utiliser l'IA générative pour la reconnaissance faciale via Azure OpenAI Service, le wrapper entièrement géré et axé sur l'entreprise autour de la technologie d'OpenAI de la société.

La langue ajoutée mercredi aux conditions d'utilisation d'Azure OpenAI Service interdit plus clairement les intégrations avec Azure OpenAI Service d'être utilisées par ou pour les services de police pour la reconnaissance faciale aux États-Unis, y compris les intégrations avec les modèles d'analyse d'images actuels — et éventuellement futurs — d'OpenAI.

Un nouveau point distinct couvre « toute application de la loi dans le monde entier » et interdit explicitement l'utilisation de la « technologie de reconnaissance faciale en temps réel » sur les caméras mobiles, telles que les caméras corporelles et les caméras embarquées, pour tenter d'identifier une personne dans des environnements « incontrôlés, en pleine nature ».

Les changements de politique interviennent une semaine après qu'Axon, fabricant de produits technologiques et d'armement pour les militaires et les forces de l'ordre, ait annoncé un nouveau produit qui exploite le modèle de texte génératif GPT-4 d'OpenAI pour résumer l'audio des caméras corporelles. Les critiques ont rapidement souligné les risques potentiels, comme les hallucinations (même les meilleurs modèles d'IA générative aujourd'hui inventent des faits) et les biais raciaux introduits par les données d'entraînement (ce qui est particulièrement préoccupant étant donné que les personnes de couleur sont bien plus susceptibles d'être arrêtées par la police que leurs pairs blancs).

Il n'est pas clair si Axon utilisait GPT-4 via Azure OpenAI Service, et, si tel est le cas, si la politique mise à jour était en réponse au lancement du produit d'Axon. OpenAI avait précédemment restreint l'utilisation de ses modèles pour la reconnaissance faciale via ses API. Nous avons contacté Axon, Microsoft et OpenAI et mettrons à jour cet article si nous recevons une réponse.

Les nouvelles conditions laissent une marge de manoeuvre à Microsoft.

L'interdiction complète de l'utilisation d'Azure OpenAI Service concerne uniquement les services de police aux États-Unis, pas à l'international, et ne couvre pas la reconnaissance faciale effectuée avec des caméras fixes dans des environnements contrôlés, comme un bureau (bien que les termes interdisent toute utilisation de la reconnaissance faciale par la police américaine).

Cela correspond à l'approche récente de Microsoft et de son partenaire proche OpenAI en matière de contrats liés à l'IA dans les forces de l'ordre et la défense.

En janvier, des reportages de Bloomberg ont révélé qu'OpenAI collabore avec le Pentagone sur plusieurs projets, dont des capacités en cybersécurité — une rupture avec l'interdiction antérieure de la startup de fournir son IA aux forces militaires. Par ailleurs, Microsoft a proposé d'utiliser l'outil de génération d'images de DALL-E d'OpenAI pour aider le Département de la Défense (DoD) à construire des logiciels pour exécuter des opérations militaires, selon The Intercept.

Azure OpenAI Service est devenu disponible dans le produit Azure Government de Microsoft en février, ajoutant des fonctionnalités de conformité et de gestion supplémentaires conçues pour les agences gouvernementales, y compris les forces de l'ordre. Dans un article de blog, Candice Ling, vice-présidente principale de la division gouvernementale de Microsoft Federal, a promis que Azure OpenAI Service serait « soumis à une autorisation supplémentaire » auprès du DoD pour les charges de travail soutenant les missions du DoD.

Mise à jour : Après publication, Microsoft a déclaré que son changement original aux conditions de service contenait une erreur, et en fait l'interdiction ne s'applique qu'à la reconnaissance faciale aux États-Unis. Ce n'est pas une interdiction uniforme de l'utilisation du service par les services de police.