"Hallo, spreche ich mit einem Bot?"

Bilder von Unsplash

Am anderen Ende der Leitung: Mensch oder Maschine?

Spätestens seit der eindrucksvollen Vorstellung von Google Duplex 2018 ist klar: Ohne einen Hinweis am Anfang einer Konversation wird diese Frage in naher Zukunft nicht mehr eindeutig zu beantworten sein. In diesem Beitrag von Natalie Ferenčik geben wir einen Überblick zu den neuen Vorschritften für die Verwendung künstlicher Intelligenz in Kalifornien.

Was ist ein Bot?

„Bot means an automated online account where all or substantially all of the actions or posts of that account are not the result of a person.“

 (Gemäß der gesetzlichen Definition aus dem Senate Bill No. 1001, Chapter 892)

Menschenähnliche Stimmen, ein natürlicher Sprachfluss und prompte Reaktionen auf variable Gesprächsverläufe machen es dem Kommunikationspartner der digitalen Assistenten schwer, zu erkennen, ob sie sich gerade mit einem Menschen, oder einem Bot unterhalten.

Eine unglaublich beeindruckende Entwicklung, die gleichzeitig aber auch ein hohes Maß an Missbrauchspotential mit sich bringt. Aber nicht nur die sprechenden Bots können in der Welt der Algorithmen für Unruhe sorgen: Politisch aktive und meinungsbildende Bots sind bereits jetzt in der Lage Wahlen zu manipulieren oder das Meinungsbild einseitig zu prägen - und das in riesigen Dimensionen. Alleine im Mai diesen Jahres identifizierte Twitter nahezu 10 Millionen automatisierte (Spam-) Accounts und auch Facebook löschte in der Zeit von Oktober 2017 bis März 2018 ganze 1,27 Billionen Fake-Accounts. Doch auch sogenannte Trading-Bots haben es in sich: 2013 brachten allein zwei Bots den Wechselkurs von Bitcoins von 150 auf 1000 Dollar.

Genau aus diesen Gründen verabschiedete der US-Bundesstaat Kalifornien am 28. September 2018 ein Gesetz, das am 01. Juli 2019 in Kraft treten und eben solche Manipulationen verhindern soll. Laut Gesetzestext soll die Vorschrift vor allem den Einsatz der Bots verhindern, die ihre künstliche Identität in der Kommunikation gezielt verbergen, um beispielsweise den Verkauf von Waren zu fördern oder die Abstimmungsergebnisse innerhalb einer Wahl zu beeinflussen.

„This bill would, with certain exceptions, make it unlawful for any person to use a bot to communicate or interact with another person in California online with the intent to mislead the other person about its artificial identity for the purpose of knowingly deceiving the person about the content of the communication in order to incentivize a purchase or sale of goods or services in a commercial transaction or to influence a vote in an election.“

Von dem Gesetz betroffen sind Websites, Apps und digitale Anwendungen die monatlich mehr als durchschnittlich zehn Millionen Nutzer verzeichnen können. Auch die Art und Weise der Offenlegung der künstlichen Identität muss ab dem kommenden Jahr von den Benutzern der Bots mit Bedacht gewählt werden:

„The disclosure (…) shall be clear, conspicuous, and reasonably designed to inform persons with whom the bot communicates or interacts that it is a bot.“
( SB 1001, Section 1, Chapter 6, 17941 (b))

Bots und das Recht auf freie Meinungsäußerung

Das neue Gesetz kommt in Kalifornien allerdings wie gewohnt nicht ohne Widerstand: Einige Netzaktivisten sehen in der Vorschrift eine Verletzung des Rechts auf freie Meinungsäußerung. Auch der Quellcode, so die Argumentation, stelle eine Form der Rede dar, die vom ersten Zusatzartikel der  amerikanischen Verfassung geschützt sei. Wenn sich die Bots zukünftig als solche zu erkennen geben müssten, würde folglich das Recht der Freien Meinungsäußerung tangiert. Doch das, so der California State Senator Hertzberg, sei nicht das Ziel der neuen Regelung:

 You do have a constitutional right to hide what youre saying and to be anonymous. You dont have a constitutional right to falsely represent that one thing is something else. Thats the difference. When the Federalists argued anonymously in The Federalist Papers and didnt put their names down, fine. Theyre anonymous people expressing their ideas. But they didnt put their names down as somebody elses name. Thats the difference.
— Robert Hertzberg, California State Senator

Spannend bleibt, ob die Regelung tatsächlich auch technisch durchgesetzt werden kann und weitere US-Bundesstaaten mit ähnlichen Regelungen nachziehen werden. Bots agieren naturgemäß „under cover“ und lassen sich nur schwer auffinden - gerade das ist eines ihrer Charakteristika die sie für so manchen Stimmungsmacher reizvoll machen. Doch in der Interaktion mit dem menschlichen Individuum wird die Intransparenz zum Konflikt, Transparenz durch gesetzliche Regelungen wie in Kalifornien ist hier somit dringend angeraten.

Für Sprachassistenten wie Google Duplex könnte die Offenbarungspflicht zu dem ein oder anderen Freiton in der Leitung führen - denn nicht jeder spricht gern mit Bots.

Genau das ist aber das Ziel:

All I want is for the person who has to hear the content to know it comes from a computer
— Robert Hertzberg, California State Senator

Wenn Sie diesen Beitrag interessant und hilfreich fanden,
dann bleiben Sie doch am Ball und schreiben sich in unseren Newsletter ein:

Sie erhalten donnerstags sieben relevante Leseepfehlungen aus den Themenfeldern
Recht - Technologie - Marketing - Wissenschaft

Spirit Legal LLP Newsletter abonnieren

Montags veröffentlichen wir den Newsletter in unserem Archiv.

Einen Kommentar schreiben

Tags

Verfügbarkeit §75f HGB Kinder Suchfunktion § 5 UWG Unterlassung Amazon Anmeldung Single Sign-On anwaltsserie Finanzierung LinkedIn schule Konferenz besondere Darstellung Suchmaschinenbetreiber Schadensfall E-Mobilität #bsen Tracking custom audience Limited Gesamtpreis Vergütung Touristik Preisauszeichnung Registered Verlängerung Behinderungswettbewerb Hotelvermittler informationstechnologie recht am eigenen bild Werbung Referendar Einverständnis Presserecht Werktitel Rechtsprechung ISPs Zustellbevollmächtigter Sponsoring Löschungsanspruch Kinderrechte TeamSpirit Google AdWords Gastronomie urheberrechtsschutz Resort Erbe whatsapp Abmahnung LG Köln wetteronline.de 5 UWG Linkhaftung EC-Karten geldwäsche Online Shopping Erdogan Künstliche Intelligenz A1-Bescheinigung Datenschutzgrundverordnung Internet Suchalgorithmus veröffentlichung technik Check-in email marketing Kekse Kennzeichnungskraft verlinkung Impressum Vertragsgestaltung Hotellerie SSO entgeltgleichheit Stellenausschreibung online werbung Störerhaftung LMIV verlinken Compliance data privacy Bewertung OTMR Jahresrückblick Blog Big Data Gepäck Annual Return UWG Bundesmeldegesetz Apps Notice & Take Down gdpr Infosec Hackerangriff Rabattangaben YouTube Türkisch Dynamic Keyword Insertion Keyword-Advertising Custom Audiences Instagram Vertragsrecht Gesundheit PSD2 Einwilligung Internet of Things kinderfotos Artificial Intelligence Umtausch Entschädigung Lizenzrecht CRM Vergleichsportale EU-Kosmetik-Verordnung information technology Recht bgh Webdesign Hotelrecht Fotografen Auftragsverarbeitung Urteil Schadenersatz NetzDG Kritik AfD Panoramafreiheit Unlauterer Wettbewerb Namensrecht Spitzenstellungsbehauptung LikeButton Marketing § 24 MarkenG Soziale Netzwerke Kapitalmarkt Markensperre gesellschaftsrecht Panorama Ratenparität Datenschutzerklärung Human Resource Management Medienstaatsvertrag jahresabschluss Unternehmensgründung JointControl Online Einstellungsverbot Trademark Mitarbeiterfotografie Großbritannien Medienrecht Xing Ruby on Rails Produktempfehlungen Abhören Kosmetik Minijob fotos Creative Commons videoüberwachung Meinung Rückgaberecht Newsletter patent Event Verbandsklage Online Marketing EU-Textilkennzeichnungsverordnung Algorithmus Transparenz Autocomplete Scam Freelancer Onlineplattform Kundenbewertung Berlin Videokonferenz ReFa informationspflichten Kundenbewertungen Google Schadensersatz Beleidigung total buy out Kundendaten Team Dark Pattern Sperrabrede drohnen technology Kündigung Expedia.com Sitzverlegung BDSG selbstanlageverfahren Datensicherheit Persönlichkeitsrecht Erschöpfungsgrundsatz

Die Rechtsanwaltssozietät Spirit Legal berät in- und ausländische Unternehmen mit internationaler Ausrichtung. Unser fachlicher Beratungsschwerpunkt liegt in den Bereichen E-Commerce, Gesellschafts-, Wettbewerbs-, Marken-, IT- und Datenschutzrecht. Dank unserer Branchenerfahrung sind wir in rechtlichen Fragen der spezialisierte Ansprechpartner für Start-ups, Reiseunternehmen und die Hotellerie.

© Spirit Legal 2013 - 2023, alle Rechte vorbehalten

Förderung von Fachanwaltskursen & anwaltlichen Fortbildungen durch SAB Sachsen: