La startup israélienne Conntour a développé une plateforme qui agit comme un Google pour caméras de sécurité, analysant des milliers de flux avec l'IA. Bien que son efficacité technique soit remarquable, son déploiement massif soulève des questions critiques en matière de confidentialité et de conformité réglementaire. Cette analyse se concentre sur les risques réglementaires et la gouvernance éthique d'un outil doté d'une telle capacité de surveillance automatisée.
Fonctionnement technique et scalabilité sans précédent 🔍
Le système de Conntour utilise des modèles de langage et de vision pour répondre à des requêtes en langage naturel sur des vidéos en direct ou enregistrées. Son principal avantage concurrentiel est l'architecture qui lui permet de scaler efficacement avec des milliers de caméras simultanées, surpassant les solutions traditionnelles. Cette scalabilité est précisément ce qui multiplie l'impact légal : traiter massivement des flux vidéo d'espaces publics et privés amplifie exponentiellement les risques de traitement illégitime de données personnelles, débordant les principes de minimisation et de limitation de la finalité.
Le dilemme de la supervision et des critères éthiques ⚖️
L'entreprise affirme sélectionner les clients selon des critères éthiques et légaux, mais surgit la question clé : qui audite ces critères ? L'opacité dans la gouvernance, unie à l'utilisation par des gouvernements, crée un scénario de haute opacité. Sans mécanismes de supervision indépendants et audits publics, l'outil pourrait faciliter une surveillance massive incompatible avec des cadres comme le GDPR, où le consentement et la transparence sont des piliers fondamentaux. La technologie avance, mais la reddition de comptes reste en arrière.
Jusqu'à quel point des plateformes comme Conntour, qui indexent des caméras de sécurité publiques, peuvent-elles opérer sans violer les réglementations sur la protection des données, la confidentialité et la sécurité nationale ?
(PD : les systèmes de vérification sont comme les supports d'impression : s'ils échouent, tout s'effondre)