Deepseek n'est pas un "Cadeau"
1. Un LLM gratuit? Vraiment...
Le monde de la tech n'arrête pas de parler de Deepseek depuis sa sortie il y a quelques semaines. Mais à bien y réfléchir, ce "cadeau" du gouvernement chinois n'en est peut-être pas un... Il se pourrait même que ce soit l'un des "Trojans" les plus efficaces et des plus "juteux" qui soit en termes d'espionage industriel. C'est du moins ce que laisse à penser cette vidéo tirée de l'organisme de Presse ABC:
Deepseek the explosive new artificial intelligence tool that took the world by storm, has code hidden in its programming which has the built-in capability to send user data directly to the Chinese government, experts told ABC News.
Selon eux, un code serait "caché" dans ce LLM et permettrait de rediriger toutes les données vers... un département du gouvernement chinois. Comme les américains le disent si bien:
If it's a free product... YOU are the Product!
2. Une "porte dérobée" qui peut coûter cher
Voici les principaux éléments à retenir :
-
Un code dissimulé a été trouvé dans le processus de création de compte et de connexion de Deepseek.
-
Ce code relie l'IA à China Mobile, un important fournisseur de téléphonie mobile appartenant majoritairement au gouvernement chinois.
-
D'après les États-Unis, China Mobile aurait des liens avec l'armée chinoise, ce qui a conduit à des sanctions américaines contre l'opérateur.
-
Le code collecte des informations détaillées sur l'appareil utilisé pour se connecter à Deepseek.
-
Bien que les experts n'aient pas constaté de transfert de données lors de leurs tests, ils ne peuvent pas exclure que les données de certains utilisateurs aient été transférées vers China Mobile.
-
Ivan Tsarynny, PDG de Feroot (entreprise de cybersécurité canadienne ayant découvert ce code), estime qu'il est peu probable que ce code ait été introduit par accident.
Cette découverte soulève des inquiétudes importantes concernant la sécurité des données et la confidentialité des utilisateurs de Deepseek. Elle s'inscrit dans un contexte plus large de méfiance envers les technologies chinoises, notamment en raison des lois chinoises qui permettent au gouvernement d'accéder aux données des entreprises.
Il est important de noter que plusieurs pays ont déjà pris des mesures restrictives concernant Deepseek. Par exemple, Taïwan a interdit aux agences gouvernementales d'utiliser le modèle d'IA de Deepseek pour des raisons de sécurité. Aux États-Unis, le Texas a également interdit l'utilisation de Deepseek sur les appareils gouvernementaux.