OpenAI a récemment annoncé avoir interrompu une campagne impliquant plus de 15 000 utilisateurs, reliant une partie de cette activité à des personnes associées à Moonshot, connue pour son chatbot Kimi. Cette opération, qui a commencé le 1er juillet, visait à extraire des éléments cruciaux de la logique sous-jacente de l'intelligence artificielle d’OpenAI.
La campagne, dont les détails inquiétent, a enregistré 16 000 demandes d'extraction rien que durant les 24 et 25 juillet. OpenAI affirme avoir complètement perturbé cette activité d’ici le 28 juillet.
Une accusation familière dans le monde de l'IA
Les accusations de tentative d'extraction des données des modèles d'IA ne sont pas nouvelles. Dans ce cas précis, l’objectif n’était pas d’obtenir directement les résultats que produisent les modèles d’OpenAI, mais plutôt de saisir les mécanismes de raisonnement dont ils se servent pour aboutir à leurs réponses.
les modèles d'IA modernes fonctionnent de manière interne, recueillant et analysant les informations étape par étape avant de fournir une réponse finale. OpenAI protège cette démarche par un cryptage, mais la campagne en cours visait à reproduire ce raisonnement, suscitant de potentielles violations de leurs conditions d'utilisation.
Selon OpenAI, les opérateurs liés à cette campagne n'ont ni contourné leurs systèmes de sécurité ni accédé à des bases de données de manière non autorisée. Au lieu de cela, ils ont réussi à manipuler les interactions du modèle pour reproduire le raisonnement protégé de façon à le rendre visible à la demande.
Les techniques d'extraction établies
L’un des moyens utilisés consistait à extraire des parties de raisonnement cryptées d’une conversation et à demander à un modèle de les décoder dans une autre instance. Cette technique, qualifiée d’extraction malveillante, se concentre sur une utilisation non autorisée des sorties d’un modèle pour aider à former ou à améliorer un autre modèle.
OpenAI précise que sa fermeture de ces méthodes d’interaction a permis de protéger son contenu contre de futurs abus. Cependant, les implications d’une telle opération soulèvent des inquiétudes sur la sécurité des systèmes d’IA.
L'ombre grandissante de Moonshot
Moonshot, la startup impliquée, n’a pas encore répondu aux accusations formulées par OpenAI. Elle prévoit par ailleurs d’entrer en bourse à Hong Kong avec une valorisation estimée à 50 milliards de dollars. La sortie publique potentielles pourrait intensifier l’attention portée sur ses activités, notamment sur la manière dont elle utilise les technologies d’IA.
Il est essentiel de souligner que le débat autour de la distillation des modèles d’IA se poursuit, impliquant des accusations allant des violations de propriété intellectuelle à d’autres formes d’exploitation des données.
OpenAI n’est pas étranger à ces problèmes. En janvier 2025, l’organisation avait déjà signalé des suspicions quant à des expériences menées par d’autres entreprises, y compris DeepSeek, sur ses modèles, alors que des enjeux de sécurité nationale étaient en jeu.
Les répercussions à long terme sur l'industrie de l'IA
Les incidents comme celui-ci mettent en lumière des préoccupations profondes concernant la sécurité et l'intégrité des données dans les systèmes d'IA. OpenAI, Anthropic et Google ont tous mis en œuvre des solutions pour protéger leurs modèles, mais le risque d'extractions non autorisées demeure élevé.
L’énorme élan des entreprises technologiques pour renforcer la sécurité de leurs modèles s’arrime également à des prescriptions de la part des gouvernements et des régulateurs, cherchant souvent à établir un cadre légal pour encadrer l’expansion de l’IA.
À travers la lutte contre l’extraction malveillante et les exploitations non éthiques de leurs modèles, les compagnies d’IA doivent naviguer dans un environnement complexe, à la fois compétitif et rempli de défis légaux. Le contexte international, en particulier avec les préoccupations liées à la Chine, intensifie ce défi.
Alors que Moonshot et d'autres acteurs cherchent à capter l’attention et les ressources, OpenAI reste vigilante face à ces pratiques potentiellement nuisibles qui pourraient compromettre ses travaux futurs.
Pour plus d'informations sur les enjeux liés aux technologies d'IA et à la sécurité des données, vous pouvez consulter cet article sur Industry News et le rapport de Tech Insider.
