Kommentar :: Mein Problem mit dem Alexa-Unfall
by Volker Weber
Der Skandal an der #Alexa-Geschichte ist nicht, dass Daten an den Falschen gegeben worden. Ein Skandal ist, dass Amazon diese hochgradig sensiblen Daten technisch und organisatorisch so schlecht schützt, dass so ein Fehler möglich ist. #WosindmeineDaten https://t.co/VDLoKkyPkr
— Joerg Heidrich (@dasgesetzbinich) December 20, 2018
Joerg bringt es auf den Punkt. Und macht damit ein noch viel größeres Fass auf. Die juristische Idee der Auskunft ist nachvollziehbar: "Hallo, sag mir, was Du von mir weißt." Jede Wette, das ist in der Architektur der allermeisten Systeme nicht vorgesehen. Wenn dann nachher die lästige Verpflichtung kommt, solche Auskünfte geben zu müssen, dann wird da irgendwas drauf gelötet. Diesmal traf es Amazon, aber ich vermute sehr stark, dass bei ganz vielen Unternehmen ein hemdsärmeliger Prozess implementiert wurde, um mal ganz schnell diese DSGVO-Forderung erfüllen zu können.
Jetzt schicken mir mal den IT-Futzi in den Keller, der dann als Admin die Daten rausfischt, das ist ja wohl kaum die Lösung.
Ein jeder IT-Mensch packe sich mal an seine eigene Nase. Mittelständisches Unternehmen. Devise "Keep the lights on". Ehemaliger Mitarbeiter sagt: "Will wissen, was Ihr noch über mich gespeichert habt". Wo fängst Du an, wo hörst du auf? Metadaten von Office-Dokumenten?
Vom führenden Cloud-Unternehmen kann ich mehr erwarten. Muss ich. Meine Alexa-Protokolle sind mir ziemlich wurscht. Aber geht es da überall so hemdsärmelig zu? Ziemlich sicher nicht.
Aber das hätte ich gerne genau geklärt. Nicht mit einem Achselzucken und "Unfälle passieren".
Comments
"Meine Alexa-Protokolle sind mir ziemlich wurscht."
Echt jetzt? Das überrascht mich nun doch einigermaßen.
Hast Du welche? Lies Dir die mal durch. Das ist für mich ein reiner Nebenkriegsschauplatz. Es gibt viel brisantere Informationen als Dinge wie "wie wird das Wetter", "mach das Licht an", "stell den Timer auf 10 Minuten" etc.
Lass uns dadurch nicht den Blick auf das eigentlich viel größere Problem verstellen.
Das Thema Regulation und Verantwortung hat in der IT gefühlt noch nicht mal begonnen. Ich vermute, für die Panne setzt es noch nicht mal eine Strafe.
Ich möchte da gerne noch einen Schritt zurück gehen und hinterfragen, warum überhaupt diese Daten gespeichert werden.
In diesen unseren Zeiten wünsche ich mir mehr Datensparsamkeit, insbesondere von den "großen"...
Ich bin auch stark verwundert und Jörg Heidrich bringt es auf den Punkt. Der Umgang mit dem Vorfall und der Versuch, es unter den Teppich zu kehren, zerstören massiv Vertrauen.
@Karsten: Diese Daten zu sammeln und aufzubewahren ist völlig nachvollziehbar. Damit kann man die KI trainieren und die Spracherkennung wird immer besser. Was wirklich wichtig ist, sind die Prozesse im Unternehmen und bei den Mitarbeitern für Datensicherheit und Sparsamkeit bewusst implementiert? Ist definiert, was unter die persönlichen Daten eines Kunden, Geschäftspartner und Mitarbeiter fällt? Wird Zugriff darauf überwacht und gibt es Meldesysteme bei ungewöhnlichen Verhalten?
@Dirk. Muss man die Daten wirklich während Monaten speichern für die KI? Um die zu trainieren, muss das System ja nun nicht dauernd drüber gehen. Ein paar Mal reicht um dem System was Neues beizubringen. Man könnte es also auch nach dem Training löschen.
Grundsätzlich ist aber zu sagen, Alexa oder Siri hören immer mit. Mir graut etwas vor der Vorstellung, dass die beiden irgendwann anfangen Vorschläge zu machen, bevor ich überhaupt den Satz mit "Alexa ...." anfange. Banal gesagt könnte es sein, indem Alexa mal mithört, wenn man die Weihnachtsgeschenkfrage diskutiert und plötzlich kommt Alexa mit einer Idee daher. Das wird dann heikel. Auch wenn es verboten sein muss. Tesla kann auch schon alle Gespräche im Auto mithören. Sich dann als Unternehmen bewusst zu entscheiden, aus moralisch-ethischen Gründen das nicht auszunutzen, könnte für gewisse Managertypen schwierig werden. Zudem könnten öffentliche Stellen, mit dem Argument Sicherheit, relativ einfach an Daten gelangen, die jetzt sehr privat sind und die auch keinen was angehen.
Nur mal so...diesen Auskunftsanspruch gibt es seit vielen Jahren. Nicht erst mit der DS-GVO. Davor war er in der Richtlinie geregelt und im BDSG in § 34 umgesetzt.
@Dirk. Genau hier fängt das Problem an...
Wurden die Daten zu diesem Zweck gesammelt und wo wird das so auch formuliert. Wenn nicht, darf man die Daten gar nicht erst für KI Training verwenden !
Der Chef bekommt keine Urlaubsliste, weil es keinen Geschäftsprozess gibt, der eine solche Liste erforderlich macht. Der Chef darf aber jeden Tag nachschauen, wer heute Geburtstag hat.
Die eigentliche Frage ist doch: „Was haben Gesprächsmitschnitte im Keller von Amazon zu suchen“? Und dann schliesst sich direkt an: „Wieso ist das nicht besser gesichert?“
Ich finde es zudem höchstkritisch dass man als Besuchender in einem Alexa-Haushalt mitgeschnitten wird und dass diese Daten im Keller von Amazon landen. Das ist nun wirklich orwellsches Stenario. Selbst wenn amazon mit diesen Daten nichts anfängt, allemal sind diese Daten schlecht geschützt und man muss davon ausgehen dass Dritte darauf Zugang erhalten oder schon erhalten haben.
Ich finde es auch etwas seltsam wie unkritisch die Auseinandersetzung von Vowe mit Alexa ist, während Chrome ja nicht so gut wegkommt. Das wäre vielleicht ja mal einen Artikel wert?!?
Dominique, Alexa schneidet Dich nicht mit. Ich glaube, es besteht einfach ein großes Missverständnis darüber, wie sowas funktioniert.
Doch Volker, Alexa schneidet dich mit. Lies doch mal einschlägige Artikel dazu bzw. lausch in deine Aufzeichnungen rein. Jede Wette das du auch in deinem Account Aufzeichnungen findest, die Alexa aufgenommen hat, obwohl das Keyword nicht genannt wurde.
Und wie geht das? Klar, weil Alexa permanent mithört und dann, wenn sie das Keyword (vermeintlich) gehört hat, auch aufzeichnet / in der Cloud speichert.
Ich sehe das ähnlich wie Dominique: Auf der einen Seite Chrome verteufeln aber auf der anderen Alexa als vollkommen unkritisch darzustellen, geht zumindest an meinem Verständnis für Datenschutz vorbei.
René, ich mache das regelmäßig. Du auch?
Wie kommst Du eigentlich auf das schmale Brett, mich als ignorant hinzustellen?
Falls mich jemand nicht versteht, der soll mal hier gucken: https://myactivity.google.com/myactivity Das sollte eigentlich beinahe jeder von Euch haben. Was Alexa aufzeichnet, sieht man am besten in der App.
Huch, ich wollte dich auf keinen Fall als ignorant hinstellen. Wenn das so rübergekommen sein sollte - sorry!
Mich irritiert nur deine eigenwillige Sichtweise auf die technischen Specs: Vielleicht funktioniert deine Alexa ja auch anders, aber die technischen Spezifikationen von Alexa lauten eben nun mal so, das permanent mitgehört und beim (vermeintlichen) Erkennen des Codewortes aufgezeichnet wird. Und das es dabei eine Menge false positives gibt, ist denke ich kein Geheimnis.
Ich kenne meine Aufzeichnungen SEHR genau. Und wir machen kaum noch false positives. Alles eine Sache der Übung.
