Social Scoring

Stellen Sie sich vor, Ihr tägliches Verhalten würde von einer Maschine bewertet: Wie Sie sich im Internet äußern, ob Sie Ihre Rechnungen pünktlich zahlen oder wie oft Sie bei Rot über die Ampel gehen. Aus all diesen Daten berechnet ein Algorithmus einen Punktwert – Ihre „soziale Bonität“.

Dieses Social Scoring (soziale Bewertung) führt dazu, dass Menschen aufgrund ihres Punktestandes bevorzugt oder benachteiligt werden – etwa beim Zugang zu Krediten, Wohnraum oder Versicherungen.

In der EU steht der Schutz der Grundrechte an oberster Stelle. Ein System, das Menschen wie eine Ware klassifiziert und potenziell ausgrenzt, widerspricht unseren Werten. Deshalb zieht der EU AI Act hier eine ganz klare Grenze: Social Scoring wird als „unannehmbares Risiko“ eingestuft. Das bedeutet: Diese Praxis ist für staatliche Stellen und Unternehmen in der Europäischen Union grundsätzlich verboten.

Wichtig zu wissen: Die klassische Bonitätsprüfung oder Credit Scoring (wie man sie von der Schufa kennt), die lediglich die Zahlungsfähigkeit bewertet, bleibt unter strengen Auflagen erlaubt. Social Scoring geht jedoch weit darüber hinaus und bewertet die gesamte Persönlichkeit und das soziale Verhalten.

Der klarvernetzt-Blickwinkel: Wir finden: Technik soll dem Menschen dienen, nicht ihn kontrollieren. Beim Thema KI-Compliance geht es uns nicht nur um das Vermeiden von Bußgeldern. Es geht darum, KI in Ihrem Unternehmen oder Ihrer Behörde so einzusetzen, dass sie ethisch sauber und transparent bleibt. Wir helfen Ihnen dabei, die Chancen der KI zu nutzen, ohne die Grenzen der Rechtskonformität auch nur zu streifen – damit das Vertrauen Ihrer Kunden und Bürger unantastbar bleibt.