Kommentar :: Mein Problem mit dem Alexa-Unfall

by Volker Weber

Joerg bringt es auf den Punkt. Und macht damit ein noch viel größeres Fass auf. Die juristische Idee der Auskunft ist nachvollziehbar: "Hallo, sag mir, was Du von mir weißt." Jede Wette, das ist in der Architektur der allermeisten Systeme nicht vorgesehen. Wenn dann nachher die lästige Verpflichtung kommt, solche Auskünfte geben zu müssen, dann wird da irgendwas drauf gelötet. Diesmal traf es Amazon, aber ich vermute sehr stark, dass bei ganz vielen Unternehmen ein hemdsärmeliger Prozess implementiert wurde, um mal ganz schnell diese DSGVO-Forderung erfüllen zu können.

Jetzt schicken mir mal den IT-Futzi in den Keller, der dann als Admin die Daten rausfischt, das ist ja wohl kaum die Lösung.

Ein jeder IT-Mensch packe sich mal an seine eigene Nase. Mittelständisches Unternehmen. Devise "Keep the lights on". Ehemaliger Mitarbeiter sagt: "Will wissen, was Ihr noch über mich gespeichert habt". Wo fängst Du an, wo hörst du auf? Metadaten von Office-Dokumenten?

Vom führenden Cloud-Unternehmen kann ich mehr erwarten. Muss ich. Meine Alexa-Protokolle sind mir ziemlich wurscht. Aber geht es da überall so hemdsärmelig zu? Ziemlich sicher nicht.

Aber das hätte ich gerne genau geklärt. Nicht mit einem Achselzucken und "Unfälle passieren".

Comments

"Meine Alexa-Protokolle sind mir ziemlich wurscht."

Echt jetzt? Das überrascht mich nun doch einigermaßen.

René Fischer, 2018-12-21

Hast Du welche? Lies Dir die mal durch. Das ist für mich ein reiner Nebenkriegsschauplatz. Es gibt viel brisantere Informationen als Dinge wie "wie wird das Wetter", "mach das Licht an", "stell den Timer auf 10 Minuten" etc.

Lass uns dadurch nicht den Blick auf das eigentlich viel größere Problem verstellen.

Volker Weber, 2018-12-21

Das Thema Regulation und Verantwortung hat in der IT gefühlt noch nicht mal begonnen. Ich vermute, für die Panne setzt es noch nicht mal eine Strafe.

Frank Quednau, 2018-12-21

Ich möchte da gerne noch einen Schritt zurück gehen und hinterfragen, warum überhaupt diese Daten gespeichert werden.

In diesen unseren Zeiten wünsche ich mir mehr Datensparsamkeit, insbesondere von den "großen"...

Karsten W. Rohrbach, 2018-12-21

Ich bin auch stark verwundert und Jörg Heidrich bringt es auf den Punkt. Der Umgang mit dem Vorfall und der Versuch, es unter den Teppich zu kehren, zerstören massiv Vertrauen.

Hubert Stettner, 2018-12-21

@Karsten: Diese Daten zu sammeln und aufzubewahren ist völlig nachvollziehbar. Damit kann man die KI trainieren und die Spracherkennung wird immer besser. Was wirklich wichtig ist, sind die Prozesse im Unternehmen und bei den Mitarbeitern für Datensicherheit und Sparsamkeit bewusst implementiert? Ist definiert, was unter die persönlichen Daten eines Kunden, Geschäftspartner und Mitarbeiter fällt? Wird Zugriff darauf überwacht und gibt es Meldesysteme bei ungewöhnlichen Verhalten?

Dirk Bartkowiak, 2018-12-21

@Dirk. Muss man die Daten wirklich während Monaten speichern für die KI? Um die zu trainieren, muss das System ja nun nicht dauernd drüber gehen. Ein paar Mal reicht um dem System was Neues beizubringen. Man könnte es also auch nach dem Training löschen.
Grundsätzlich ist aber zu sagen, Alexa oder Siri hören immer mit. Mir graut etwas vor der Vorstellung, dass die beiden irgendwann anfangen Vorschläge zu machen, bevor ich überhaupt den Satz mit "Alexa ...." anfange. Banal gesagt könnte es sein, indem Alexa mal mithört, wenn man die Weihnachtsgeschenkfrage diskutiert und plötzlich kommt Alexa mit einer Idee daher. Das wird dann heikel. Auch wenn es verboten sein muss. Tesla kann auch schon alle Gespräche im Auto mithören. Sich dann als Unternehmen bewusst zu entscheiden, aus moralisch-ethischen Gründen das nicht auszunutzen, könnte für gewisse Managertypen schwierig werden. Zudem könnten öffentliche Stellen, mit dem Argument Sicherheit, relativ einfach an Daten gelangen, die jetzt sehr privat sind und die auch keinen was angehen.

Christian Tillmanns, 2018-12-21

Nur mal so...diesen Auskunftsanspruch gibt es seit vielen Jahren. Nicht erst mit der DS-GVO. Davor war er in der Richtlinie geregelt und im BDSG in § 34 umgesetzt.

Johannes Matzke, 2018-12-21

@Dirk. Genau hier fängt das Problem an...

Wurden die Daten zu diesem Zweck gesammelt und wo wird das so auch formuliert. Wenn nicht, darf man die Daten gar nicht erst für KI Training verwenden !

Der Chef bekommt keine Urlaubsliste, weil es keinen Geschäftsprozess gibt, der eine solche Liste erforderlich macht. Der Chef darf aber jeden Tag nachschauen, wer heute Geburtstag hat.

Hubertus Amann, 2018-12-21

Die eigentliche Frage ist doch: „Was haben Gesprächsmitschnitte im Keller von Amazon zu suchen“? Und dann schliesst sich direkt an: „Wieso ist das nicht besser gesichert?“

Ich finde es zudem höchstkritisch dass man als Besuchender in einem Alexa-Haushalt mitgeschnitten wird und dass diese Daten im Keller von Amazon landen. Das ist nun wirklich orwellsches Stenario. Selbst wenn amazon mit diesen Daten nichts anfängt, allemal sind diese Daten schlecht geschützt und man muss davon ausgehen dass Dritte darauf Zugang erhalten oder schon erhalten haben.

Ich finde es auch etwas seltsam wie unkritisch die Auseinandersetzung von Vowe mit Alexa ist, während Chrome ja nicht so gut wegkommt. Das wäre vielleicht ja mal einen Artikel wert?!?

Dominique Roller, 2018-12-21

Dominique, Alexa schneidet Dich nicht mit. Ich glaube, es besteht einfach ein großes Missverständnis darüber, wie sowas funktioniert.

Volker Weber, 2018-12-21

Doch Volker, Alexa schneidet dich mit. Lies doch mal einschlägige Artikel dazu bzw. lausch in deine Aufzeichnungen rein. Jede Wette das du auch in deinem Account Aufzeichnungen findest, die Alexa aufgenommen hat, obwohl das Keyword nicht genannt wurde.

Und wie geht das? Klar, weil Alexa permanent mithört und dann, wenn sie das Keyword (vermeintlich) gehört hat, auch aufzeichnet / in der Cloud speichert.

Ich sehe das ähnlich wie Dominique: Auf der einen Seite Chrome verteufeln aber auf der anderen Alexa als vollkommen unkritisch darzustellen, geht zumindest an meinem Verständnis für Datenschutz vorbei.

René Fischer, 2018-12-21

René, ich mache das regelmäßig. Du auch?

Wie kommst Du eigentlich auf das schmale Brett, mich als ignorant hinzustellen?

Volker Weber, 2018-12-21

Falls mich jemand nicht versteht, der soll mal hier gucken: https://myactivity.google.com/myactivity Das sollte eigentlich beinahe jeder von Euch haben. Was Alexa aufzeichnet, sieht man am besten in der App.

Volker Weber, 2018-12-21

Huch, ich wollte dich auf keinen Fall als ignorant hinstellen. Wenn das so rübergekommen sein sollte - sorry!

Mich irritiert nur deine eigenwillige Sichtweise auf die technischen Specs: Vielleicht funktioniert deine Alexa ja auch anders, aber die technischen Spezifikationen von Alexa lauten eben nun mal so, das permanent mitgehört und beim (vermeintlichen) Erkennen des Codewortes aufgezeichnet wird. Und das es dabei eine Menge false positives gibt, ist denke ich kein Geheimnis.

René Fischer, 2018-12-21

Ich kenne meine Aufzeichnungen SEHR genau. Und wir machen kaum noch false positives. Alles eine Sache der Übung.

Volker Weber, 2018-12-21

Post a comment

Store next two fields in a cookie for you?




Use your full name and a working email address. Unless you want your comment to be removed. No kidding.

Recent comments

Axel Koerv on vowe's magic flying circus auf Microsoft Kaizala at 20:25
Thomas Muders on vowe's magic flying circus auf Microsoft Kaizala at 20:21
Enrico Lippmann on Und die dritte Januar-Woche #dontbreakthechain at 20:13
Volker Weber on vowe's magic flying circus auf Microsoft Kaizala at 20:12
Axel Koerv on vowe's magic flying circus auf Microsoft Kaizala at 20:09
Volker Weber on vowe's magic flying circus auf Microsoft Kaizala at 19:56
Thomas Muders on vowe's magic flying circus auf Microsoft Kaizala at 19:54
Volker Weber on vowe's magic flying circus auf Microsoft Kaizala at 19:53
Christian Ott on vowe's magic flying circus auf Microsoft Kaizala at 19:51
Volker Weber on vowe's magic flying circus auf Microsoft Kaizala at 19:42
Thomas Muders on vowe's magic flying circus auf Microsoft Kaizala at 19:40
Volker Weber on Und die dritte Januar-Woche #dontbreakthechain at 19:40
Enrico Lippmann on Und die dritte Januar-Woche #dontbreakthechain at 19:35
Volker Weber on vowe's magic flying circus auf Microsoft Kaizala at 18:13
Axel Koerv on vowe's magic flying circus auf Microsoft Kaizala at 18:10
Jochen Kattoll on Let's talk about voice assistants. Seriously. at 16:13
Frank Quednau on vowe's magic flying circus auf Microsoft Kaizala at 14:13
Thomas Günter on vowe's magic flying circus auf Microsoft Kaizala at 13:03
Benjamin Bock on vowe's magic flying circus auf Microsoft Kaizala at 12:43
Bruce Elgort on Und die dritte Januar-Woche #dontbreakthechain at 02:04
Volker Weber on IKEA to launch Sonos-powered Symfonisk in August at 21:38
Bernd Fellerhoff on IKEA to launch Sonos-powered Symfonisk in August at 21:34
Bernd Fellerhoff on IKEA to launch Sonos-powered Symfonisk in August at 21:17
Bernd Fellerhoff on IKEA to launch Sonos-powered Symfonisk in August at 21:01
Joerg Richter on Und die dritte Januar-Woche #dontbreakthechain at 20:40

Ceci n'est pas un blog

I explain difficult concepts in simple ways. For free, and for money. Clue procurement and bullshit detection.

vowe

Contact
Publications
Stuff that works
Amazon Wish List
Frequently Asked Questions

rss feed  twitter  amazon

Local time is 21:30

visitors.gif

buy me coffee

Paypal vowe