Tout savoir sur l'AI Act pour briller en société

Bonjour 👋,

Cette semaine, je vous propose un numéro un peu “scolaire” pour changer, avec un gros focus sur l’AI Act qui vient d’être validé. Pas mal de nouveautés chez Google autour de Gemini, des GPTs d’OpenAI, et aussi (et malheureusement) des deepfakes qui deviennent de plus en plus perfectionnés.

🕵️‍♂️ Comprendre l’AI Act, en 8 questions

Vendredi 2 février, le projet de règlement européen sur l’IA appelé “AI Act” a franchi une étape décisive avec sa validation à l’unanimité par les pays membres de l’Union européenne. Ce texte et la manière dont il sera exécuté va déterminer le futur de l’IA, à minima en Europe, mais sans doute avec un impact international qu’on est en droit d’imaginer similaire à RGPD. Il est donc très important de bien comprendre les tenants et les aboutissants de ce projet. Pour aider à y voir plus clair, voici 8 questions sur l’AI Act :

Qu'est-ce que l'AI Act ?

L'AI Act, ou Acte sur l'intelligence artificielle, est une proposition législative de la Commission européenne visant à créer un cadre réglementaire pour le développement, la commercialisation et l'utilisation des systèmes d'IA dans l'Union européenne.

Il a pour objectif de garantir une utilisation sûre et respectueuse des droits fondamentaux des systèmes d'IA, tout en favorisant l'innovation et la compétitivité de l'UE dans le domaine de l'IA. L’enjeu est donc très important, comme l’a brillamment souligné Mustafa Suleyman dans The Coming Wave que je vous conseille vivement de lire si le sujet vous intéresse.

Quels sont les objectifs et la portée de l'AI Act ?

L'AI Act vise à assurer un niveau élevé et cohérent de protection dans toute l'UE, en prévenant les divergences qui pourraient entraver la libre circulation des systèmes d'IA et des produits et services associés sur le marché intérieur. Il s'applique à tous les systèmes d'IA mis sur le marché ou utilisés dans l'Union.

Concrètement, la portée nous concerne tous, que l’on soit utilisateur de ChatGPT, une entreprise qui cherche à intégrer de l’IA dans ses processus, ou bien une start-up (comme Mistral, Dust, ou Giskard AI…) qui conçoivent des intelligences artificielles ou des produits à base d’IA.

Comment l'AI Act catégorise-t-il les risques liés à l'IA ?

L'AI Act adopte une approche basée sur le risque, classant les systèmes d'IA en différentes catégories selon leur niveau de risque.

• Les systèmes à risque inacceptable sont interdits.

• Les systèmes à risque élevé doivent se conformer à des exigences strictes.

• Les systèmes à risque limité doivent respecter des exigences de transparence minimales.

• Les systèmes à risque minimal sont soumis à des obligations moins contraignantes.

Quelles sont les dispositions spécifiques de l'AI Act ?

Parmi ses dispositions, l'AI Act interdit l'utilisation de l'IA pour le scoring social par des acteurs privés (regardez l’épisode Nosedive de Black Mirror !), impose des règles spécifiques pour les systèmes d'identification biométrique à distance en temps réel dans des espaces publics, et établit des règles pour les systèmes d'IA à grande échelle et puissants pour éviter les risques systémiques. Coucou les élections !

Quel est l'impact et la mise en œuvre prévue de l'AI Act ?

L'AI Act aura un impact significatif sur l'avenir numérique, en Europe et potentiellement dans le monde. Les entreprises développant ou utilisant des systèmes d'IA devront se conformer à des obligations uniformes, assurant ainsi une protection des intérêts publics et des droits des personnes.

Quel est l'état actuel de l'AI Act ?

En décembre 2023, le Parlement européen a conclu un accord provisoire sur l'AI Act avec le Conseil. Le texte convenu vient d’être formellement approuvé et l'AI Act n'entrera en vigueur que deux ans…

On entre donc dans une phase déterminante, celle où l’on va définir comment le texte sera appliqué, et comme le souligne parfaitement ce post LinkedIn de Sophie Halliot, “la vraie bataille commence maintenant” et va nécessiter un engagement fort de la scène start-up française afin d’obtenir le cadre le plus simple possible et éviter de reproduire la complexité connue lors de l’exécution des mesures DSP2 en finance.

Comment la France a-t-elle réagi à l'AI Act ?

Après plus de sept mois d’opposition, la France a finalement décidé de ratifier l’AI Act en février 2024. Malgré certaines réticences initiales, notamment concernant la protection de ses startups d'IA, la France a obtenu des concessions et s'est ralliée à l'accord, en considérant les modifications obtenues comme un succès.

Quelles sont les préoccupations soulevées par l'AI Act ?

L'AI Act suscite des préoccupations dans différents secteurs. Les industries culturelles, par exemple, insistent sur la nécessité de maintenir la transparence des modèles de fondation pour protéger les droits d'auteur. Intéressant : Meta compte détecter les contenus générés par IA sur Facebook, Instagram et Threads, et l’indiquer clairement.

La Commission européenne devrait établir un Office de l'IA chargé de superviser l'application de la loi. Toutefois, la version finale de l’AI Act réduit cet Office à une agence attachée à la Commission, soulevant des préoccupations quant à sa capacité à exercer efficacement ses fonctions.

D'autres acteurs, comme les startups et les géants du numérique, ont exprimé des inquiétudes quant à l'impact potentiel de la réglementation sur l'innovation et la compétitivité. Toute la difficulté est de trouver le “juste milieu” (si tant est qu’il y en ait un) entre la nécessité de mettre en place un cadre réglementaire et le soutien à l’innovation… Un point qui nécessite une vigilance non négligeable !

🧑‍💻 ACTUS TECH & IA

Bard : Accès mondial à Gemini Pro et génération d'images

Bard propose désormais Gemini Pro dans plus de 230 pays et territoires, ainsi que dans plus de 40 langues. Bard offre aussi la génération d'images, mais suite à mes tests elle ne semble pas encore disponible en France. Enfin, une fonction de vérification permet de corroborer les réponses de Bard dans plus de 40 langues. Utile pour le fact-checking et éviter les hallucinations, mais j’espère qu’on nous proposera bientôt des solutions plus avancées.

Source

Trompé par un deepfake de son boss en visio, un employé fait un virement de 25 millions de dollars

Un employé d'une multinationale hongkongaise a été piégé par des escrocs utilisant des deepfakes lors d'une visioconférence. Il a effectué des versements de 25 millions de dollars à des comptes bancaires frauduleux. Les escrocs ont utilisé une IA pour créer des deepfakes convaincants des collègues de l'employé. Cette arnaque met en évidence les risques liés à l'utilisation des deepfakes dans les activités criminelles, et malheureusement c’est une pratique qui tend à se reproduire encore et encore.

Source

Les GPTs peuvent désormais être invoqués directement dans les discussions sur ChatGPT

OpenAI permet désormais aux utilisateurs de ChatGPT d'invoquer des GPTs directement dans les discussions. Les GPTs peuvent être ajoutés à une conversation en utilisant "@" et en sélectionnant le GPT souhaité. Cette fonctionnalité permet d'ajouter des GPT pertinents avec le contexte complet de la conversation. C’est très pratique, surtout quand on a commencé une conversation sans Custom GPT et qu’on souhaite en invoquer un.

Source

Les bénéfices de Microsoft en hausse de 33% grâce à l'IA et au cloud

Microsoft annonce une augmentation de 33% de ses bénéfices grâce à ses investissements dans l'intelligence artificielle et le cloud computing. La croissance de son unité de cloud computing, soutenue par ses investissements en IA, a largement contribué à cette performance. Les résultats du dernier trimestre montrent un bénéfice net de 21,87 milliards de dollars et un chiffre d'affaires de 62,02 milliards de dollars. Microsoft se positionne comme un leader dans la course à l'IA et prévoit une croissance de 12% de ses revenus publicitaires cette année. L'acquisition d'Activision Blizzard a également eu un impact significatif sur les résultats financiers de Microsoft.

Source

L'IA générative échappe de plus en plus au capital-risque au profit des Big Tech

L'année 2023 a été difficile pour le capital-risque, avec une baisse des financements mondiaux de 35%. Le recentrage vers l'intelligence artificielle générative et la mauvaise conjoncture mondiale expliquent cette situation, qui est clairement à l’avantage des Big Tech (Microsoft, Google, Nvidia, Meta…). Les licornes sont également en baisse, et les startups doivent se focaliser sur les bénéfices. Les difficultés d'entrée en Bourse et de levée de fonds aggravent la situation... Bref, c’est pas simple dans le monde du capital-risque en ce moment, et le virage de l’IA doit être pris, mais pas n’importe comment.

Source

Apple confirme l'arrivée prochaine des fonctionnalités d'IA générative « plus tard cette année ».

Tim Cook a confirmé que les fonctionnalités de l'IA générative d'Apple arriveront "plus tard cette année". Cook a mentionné lors de l'appel trimestriel aux résultats que l'entreprise travaille sur des fonctionnalités logicielles d'IA générative qui seront disponibles pour les clients cet automne. Cette annonce suggère une grande mise à jour en septembre-octobre 2024, avec des fonctionnalités d'IA allant de la manipulation avancée de photos à l'amélioration du traitement de texte. Le rendez-vous est donné : WWDC, juin prochain !

Source

🙏 Merci de nous lire. À la prochaine ! 

Pierre + 🤖