Automatisierte Erstellung digitaler Profile kann Ermittlungsschritte stark beschleunigen – und zugleich Risiken erhöhen. Clearview AI testet mit InquiryIQ einen Prototyp, der nach einer Gesichtserkennung automatisch offene Online-Quellen durchsucht und Profile samt Verknüpfungen baut, berichtet WIRED. Die Reichweite solcher Tools wirft Fragen zu Genauigkeit, Kontrolle und Datenschutz auf.

Automatisierte Erstellung digitaler Profile: Was InquiryIQ verspricht

Vom Treffer zur Internetrecherche

Bislang lieferte Clearview AI vor allem Gesichtsabgleiche als Spuren. Danach prüften Menschen die gefundenen Hinweise. InquiryIQ soll diesen nächsten Schritt teilweise übernehmen. Der Prototyp öffnet Webseiten, durchsucht Bilder und wertet Fotos selbstständig aus. So entsteht laut Interface ein Candidate Graph mit möglichen Identitäten und Verbindungen. Laut den von WIRED eingesehenen Frontend-Dateien kann das Profil potenzielle Adressen, Telefonnummern, Arbeitgeber, Aliasnamen, Social-Media-Seiten, Einträge zu Festnahmen und verknüpfte Personen enthalten. Die automatisierte Erstellung digitaler Profile soll so verstreute Daten aus frei zugänglichen Quellen zusammenführen. WIRED hatte jedoch keinen Zugriff auf die Server-Seite und konnte die vollständige Umsetzung der Funktionen nicht unabhängig prüfen.

Filter und demografische Angaben

Die Oberfläche erlaubt es, Alter, Geschlecht und „Race“ zu setzen. Der Code beschreibt diese Merkmale als Hilfen für „fundiertere Entscheidungen“ bei der Suche. Wie stark solche Demografie-Filter die Resultate beeinflussen, bleibt unklar. Die automatisierte Erstellung digitaler Profile kann dadurch Bias verstärken, wenn Prüfprozesse versagen.

Chancen und Risiken für Ermittlungen

Weniger Aufwand, mehr Skalierung

Fachleute sagten WIRED, dass Systeme wie InquiryIQ Stunden oder Tage manueller Arbeit sparen könnten. Gleichzeitig senkt die Automatisierung die Hürde für massenhafte Prüfungen. Woodrow Hartzog warnt, „menschliche Aufsicht ist ein schwacher Trost“. Mit der Zeit droht die Kontrolle zur bloßen Abnick-Routine zu werden. Die Oberfläche von InquiryIQ blendet Warnhinweise ein: Automatisch gefundene Demografie-Daten, Social-Media-Konten und Festnahmeeinträge könnten falsch sein. Nutzer sollen jeden Fund annehmen oder ablehnen und eine unabhängige Prüfung bestätigen. Trotzdem bleibt das Risiko, dass die automatisierte Erstellung digitaler Profile falsche Verknüpfungen erzeugt und diese ungeprüft in Akten landen.

Transparenz als möglicher Vorteil

Andrew Guthrie Ferguson von der George Washington University sieht einen Lichtblick: Wenn das System Eingaben, Suchanfragen, Modellwahl und Aktionsfolgen speichert, lassen sich Ermittlungen besser auditieren. Dokumentierte Schritte könnten spätere Überprüfungen erleichtern.

Technische Bausteine und Grenzen des Einblicks

WIRED fand in der Oberfläche Auswahloptionen für verschiedene Modelle, darunter ein Modell von SpaceXAI und Amazon Bedrock. Amazon betonte, AWS sei nicht an der Entwicklung beteiligt. Wichtig: Journalisten sichteten nur Dateien, die vor dem Login an den Browser gingen. Die serverseitige Logik blieb verborgen. Damit ist offen, welche Teile des Prototyps bereits zuverlässig arbeiten. Auch Clearview AI erklärt, dass InquiryIQ nie von Strafverfolgern genutzt wurde, nicht an Kunden angeboten wird und in der aktuellen Form nicht zur Veröffentlichung geplant ist. Als Prototyp zur automatisierten Erstellung digitaler Profile zeigt das Tool vor allem die Richtung, nicht zwingend den heutigen Stand.

Nutzung, Datenbasis und rechtlicher Druck

Clearview AI gibt an, über 70 Milliarden öffentlich verfügbare Bilder zu halten. Nach Firmenangaben verwenden mehr als 2.000 US-Strafverfolgungsbehörden die Technologie. 2023 wurde berichtet, dass US-Polizeidienststellen fast 1 Million Abfragen mit Clearview-Gesichtserkennung durchführten. CEO Hoan Ton-That schätzte damals die Datenbank auf etwa 30 Milliarden Bilder. Gleichzeitig wächst der rechtliche Druck. Frankreich verhängte eine Geldbuße von 20 Millionen Euro wegen unzulässiger Verarbeitung personenbezogener Daten und forderte das Ende der Datenerhebung zu Bürgern des Landes. In diesem Umfeld verschärft die automatisierte Erstellung digitaler Profile die Debatte um rechtmäßige Quellen, Zweckbindung und Fehlerfolgen.

Was Organisationen jetzt beachten sollten

Prüfen, begrenzen, dokumentieren

– Funde einzeln prüfen: Treffer aus offenen Quellen können falsch sein. Jede Zuordnung braucht eine unabhängige Bestätigung. – Demografie-Filter vorsichtig nutzen: Alters-, Geschlechts- und „Race“-Angaben können Ergebnisse verzerren. – Schritte protokollieren: Suchbegriffe, Modelle und Aktionen dokumentieren. Das erleichtert Audits, wie Ferguson betont. – Fehlerrisiko offen adressieren: Hinweise auf Unsicherheiten klar kennzeichnen und nicht als Tatsachen ausgeben. – Einsatzbereich beschränken: Die automatisierte Erstellung digitaler Profile nur dort einsetzen, wo es rechtlich zulässig und notwendig ist. Die Entwicklung von InquiryIQ zeigt, wie nah Ermittlungsarbeit und Webautomatisierung zusammengerückt sind. Wenn Systeme eigenständig Profile und Netzwerke bauen, steigt die Verantwortung der Anwender: Sie müssen Grenzen setzen, Fehler erkennen und Rechenschaft ermöglichen. So kann die Automatisierung nützen, ohne Grundrechte zu untergraben. Am Ende bleibt klar: Die automatisierte Erstellung digitaler Profile verspricht Tempo und Überblick, birgt aber erhebliche Risiken bei Genauigkeit, Bias und Skalierung. Wer solche Tools prüft oder einsetzt, braucht strenge Kontrollen, transparente Protokolle und den festen Willen, jede automatische Verknüpfung kritisch zu hinterfragen – sonst kippt der Vorteil der Automatisierung ins Gegenteil.

(Source: https://forklog.com/en/clearview-ai-tests-ai-tool-for-creating-digital-profiles/)

For more news: Click Here

FAQ