L’intelligence artificielle et la cybersécurité

Cet article présente à un public de juristes la cybersécurité pour l’I.A. – ou comment sécuriser les I.A. – et l’I.A. comme facteur de risque, ou comment les dynamiques institutionnelles autour de l’I.A. influencent les risques de sécurité. Pour la sécurisation des I.A., nous présenterons tout d’abord les nouvelles menaces dues aux propriétés intrinsèques de la technologie, comme le prompt engineering ou l’empoisonnement de données. Nous évoquerons ensuite les problèmes liés aux pratiques : l’importance de la désinformation, de l’escroquerie et de la pornographie non consensuelle assistées par le deepfake ; l’IA agentique ou les grands modèles de langage comme nouvelles cibles stratégiques ; les risques liés au manque de management de l’I.A. dans les organisations. Pour l’I.A. comme facteur de risque, nous évoquerons brièvement les facteurs géopolitiques en décrivant les tensions entre USA et Europe sur les normes affectant l’I.A. et la cybersécurité. Nous conclurons avec les facteurs commerciaux, notamment la querelle juridique sur la propriété des données d’entraînement des modèles de langage soumises à la propriété intellectuelle.