Kommentar :: Mein Problem mit dem Alexa-Unfall

by Volker Weber

Joerg bringt es auf den Punkt. Und macht damit ein noch viel größeres Fass auf. Die juristische Idee der Auskunft ist nachvollziehbar: "Hallo, sag mir, was Du von mir weißt." Jede Wette, das ist in der Architektur der allermeisten Systeme nicht vorgesehen. Wenn dann nachher die lästige Verpflichtung kommt, solche Auskünfte geben zu müssen, dann wird da irgendwas drauf gelötet. Diesmal traf es Amazon, aber ich vermute sehr stark, dass bei ganz vielen Unternehmen ein hemdsärmeliger Prozess implementiert wurde, um mal ganz schnell diese DSGVO-Forderung erfüllen zu können.

Jetzt schicken mir mal den IT-Futzi in den Keller, der dann als Admin die Daten rausfischt, das ist ja wohl kaum die Lösung.

Ein jeder IT-Mensch packe sich mal an seine eigene Nase. Mittelständisches Unternehmen. Devise "Keep the lights on". Ehemaliger Mitarbeiter sagt: "Will wissen, was Ihr noch über mich gespeichert habt". Wo fängst Du an, wo hörst du auf? Metadaten von Office-Dokumenten?

Vom führenden Cloud-Unternehmen kann ich mehr erwarten. Muss ich. Meine Alexa-Protokolle sind mir ziemlich wurscht. Aber geht es da überall so hemdsärmelig zu? Ziemlich sicher nicht.

Aber das hätte ich gerne genau geklärt. Nicht mit einem Achselzucken und "Unfälle passieren".

Comments

"Meine Alexa-Protokolle sind mir ziemlich wurscht."

Echt jetzt? Das überrascht mich nun doch einigermaßen.

René Fischer, 2018-12-21

Hast Du welche? Lies Dir die mal durch. Das ist für mich ein reiner Nebenkriegsschauplatz. Es gibt viel brisantere Informationen als Dinge wie "wie wird das Wetter", "mach das Licht an", "stell den Timer auf 10 Minuten" etc.

Lass uns dadurch nicht den Blick auf das eigentlich viel größere Problem verstellen.

Volker Weber, 2018-12-21

Das Thema Regulation und Verantwortung hat in der IT gefühlt noch nicht mal begonnen. Ich vermute, für die Panne setzt es noch nicht mal eine Strafe.

Frank Quednau, 2018-12-21

Ich möchte da gerne noch einen Schritt zurück gehen und hinterfragen, warum überhaupt diese Daten gespeichert werden.

In diesen unseren Zeiten wünsche ich mir mehr Datensparsamkeit, insbesondere von den "großen"...

Karsten W. Rohrbach, 2018-12-21

Ich bin auch stark verwundert und Jörg Heidrich bringt es auf den Punkt. Der Umgang mit dem Vorfall und der Versuch, es unter den Teppich zu kehren, zerstören massiv Vertrauen.

Hubert Stettner, 2018-12-21

@Karsten: Diese Daten zu sammeln und aufzubewahren ist völlig nachvollziehbar. Damit kann man die KI trainieren und die Spracherkennung wird immer besser. Was wirklich wichtig ist, sind die Prozesse im Unternehmen und bei den Mitarbeitern für Datensicherheit und Sparsamkeit bewusst implementiert? Ist definiert, was unter die persönlichen Daten eines Kunden, Geschäftspartner und Mitarbeiter fällt? Wird Zugriff darauf überwacht und gibt es Meldesysteme bei ungewöhnlichen Verhalten?

Dirk Bartkowiak, 2018-12-21

@Dirk. Muss man die Daten wirklich während Monaten speichern für die KI? Um die zu trainieren, muss das System ja nun nicht dauernd drüber gehen. Ein paar Mal reicht um dem System was Neues beizubringen. Man könnte es also auch nach dem Training löschen.
Grundsätzlich ist aber zu sagen, Alexa oder Siri hören immer mit. Mir graut etwas vor der Vorstellung, dass die beiden irgendwann anfangen Vorschläge zu machen, bevor ich überhaupt den Satz mit "Alexa ...." anfange. Banal gesagt könnte es sein, indem Alexa mal mithört, wenn man die Weihnachtsgeschenkfrage diskutiert und plötzlich kommt Alexa mit einer Idee daher. Das wird dann heikel. Auch wenn es verboten sein muss. Tesla kann auch schon alle Gespräche im Auto mithören. Sich dann als Unternehmen bewusst zu entscheiden, aus moralisch-ethischen Gründen das nicht auszunutzen, könnte für gewisse Managertypen schwierig werden. Zudem könnten öffentliche Stellen, mit dem Argument Sicherheit, relativ einfach an Daten gelangen, die jetzt sehr privat sind und die auch keinen was angehen.

Christian Tillmanns, 2018-12-21

Nur mal so...diesen Auskunftsanspruch gibt es seit vielen Jahren. Nicht erst mit der DS-GVO. Davor war er in der Richtlinie geregelt und im BDSG in § 34 umgesetzt.

Johannes Matzke, 2018-12-21

@Dirk. Genau hier fängt das Problem an...

Wurden die Daten zu diesem Zweck gesammelt und wo wird das so auch formuliert. Wenn nicht, darf man die Daten gar nicht erst für KI Training verwenden !

Der Chef bekommt keine Urlaubsliste, weil es keinen Geschäftsprozess gibt, der eine solche Liste erforderlich macht. Der Chef darf aber jeden Tag nachschauen, wer heute Geburtstag hat.

Hubertus Amann, 2018-12-21

Die eigentliche Frage ist doch: „Was haben Gesprächsmitschnitte im Keller von Amazon zu suchen“? Und dann schliesst sich direkt an: „Wieso ist das nicht besser gesichert?“

Ich finde es zudem höchstkritisch dass man als Besuchender in einem Alexa-Haushalt mitgeschnitten wird und dass diese Daten im Keller von Amazon landen. Das ist nun wirklich orwellsches Stenario. Selbst wenn amazon mit diesen Daten nichts anfängt, allemal sind diese Daten schlecht geschützt und man muss davon ausgehen dass Dritte darauf Zugang erhalten oder schon erhalten haben.

Ich finde es auch etwas seltsam wie unkritisch die Auseinandersetzung von Vowe mit Alexa ist, während Chrome ja nicht so gut wegkommt. Das wäre vielleicht ja mal einen Artikel wert?!?

Dominique Roller, 2018-12-21

Dominique, Alexa schneidet Dich nicht mit. Ich glaube, es besteht einfach ein großes Missverständnis darüber, wie sowas funktioniert.

Volker Weber, 2018-12-21

Doch Volker, Alexa schneidet dich mit. Lies doch mal einschlägige Artikel dazu bzw. lausch in deine Aufzeichnungen rein. Jede Wette das du auch in deinem Account Aufzeichnungen findest, die Alexa aufgenommen hat, obwohl das Keyword nicht genannt wurde.

Und wie geht das? Klar, weil Alexa permanent mithört und dann, wenn sie das Keyword (vermeintlich) gehört hat, auch aufzeichnet / in der Cloud speichert.

Ich sehe das ähnlich wie Dominique: Auf der einen Seite Chrome verteufeln aber auf der anderen Alexa als vollkommen unkritisch darzustellen, geht zumindest an meinem Verständnis für Datenschutz vorbei.

René Fischer, 2018-12-21

René, ich mache das regelmäßig. Du auch?

Wie kommst Du eigentlich auf das schmale Brett, mich als ignorant hinzustellen?

Volker Weber, 2018-12-21

Falls mich jemand nicht versteht, der soll mal hier gucken: https://myactivity.google.com/myactivity Das sollte eigentlich beinahe jeder von Euch haben. Was Alexa aufzeichnet, sieht man am besten in der App.

Volker Weber, 2018-12-21

Huch, ich wollte dich auf keinen Fall als ignorant hinstellen. Wenn das so rübergekommen sein sollte - sorry!

Mich irritiert nur deine eigenwillige Sichtweise auf die technischen Specs: Vielleicht funktioniert deine Alexa ja auch anders, aber die technischen Spezifikationen von Alexa lauten eben nun mal so, das permanent mitgehört und beim (vermeintlichen) Erkennen des Codewortes aufgezeichnet wird. Und das es dabei eine Menge false positives gibt, ist denke ich kein Geheimnis.

René Fischer, 2018-12-21

Ich kenne meine Aufzeichnungen SEHR genau. Und wir machen kaum noch false positives. Alles eine Sache der Übung.

Volker Weber, 2018-12-21

Post a comment

Store next two fields in a cookie for you?




Use your full name and a working email address. Unless you want your comment to be removed. No kidding.

Recent comments

Sebastian Botz on IoP – the internet of pets – predictive maintenance of a cat at 12:19
Daniel Kirstenpfad on IoP – the internet of pets – predictive maintenance of a cat at 20:41
Federico Hernandez on IoP – the internet of pets – predictive maintenance of a cat at 13:38
Steffen Nork on Dynamic Theme :: Tapetenwechsel at 12:34
Frank Köhler on Alles gut at 11:05
Ralf-Philipp Weinmann on Samsung Galaxy S10 :: Erste Eindrücke at 05:53
Ralf-Philipp Weinmann on Lenovo vs Apple laptops at 05:25
Volker Weber on Samsung in der Schepp Schachtel at 23:28
Lucius Bobikiewicz on Samsung in der Schepp Schachtel at 19:47
Volker Weber on Samsung in der Schepp Schachtel at 18:46
Jörg Weske on Samsung in der Schepp Schachtel at 18:25
Lucius Bobikiewicz on Samsung in der Schepp Schachtel at 17:44
Johannes Neubrecht on Samsung in der Schepp Schachtel at 16:23
Oliver Regelmann on The Hottest Chat App for Teens Is ... Google Docs :: The Atlantic at 15:47
Rob McDonagh on The Hottest Chat App for Teens Is ... Google Docs :: The Atlantic at 14:46
Gerhard Heeke on Dynamic Theme :: Tapetenwechsel at 10:25
Volker Weber on Dynamic Theme :: Tapetenwechsel at 20:10
Amy Blumenfield on Dynamic Theme :: Tapetenwechsel at 20:06
Volker Weber on Invoxia Triby :: Demnächst in diesem Theater at 16:21
Torben Volkmann on Invoxia Triby :: Demnächst in diesem Theater at 16:20
Volker Weber on You have to learn to live with Apple bugs at 12:00
Mike Hartmann on You have to learn to live with Apple bugs at 11:29
Peter Meuser on Headsets für Skype und Teams at 19:47
Dirk Rose on You have to learn to live with Apple bugs at 10:18
Chris Frei on Invoxia Pet Tracker :: Der Test beginnt at 08:19

Ceci n'est pas un blog

I explain difficult concepts in simple ways. For free, and for money. Clue procurement and bullshit detection.

vowe

Contact
Publications
Stuff that works
Amazon Wish List
Frequently Asked Questions

rss feed  twitter  amazon

Local time is 14:27

visitors.gif

buy me coffee

Paypal vowe