Fachartikel
Gar nicht so harmlos
Smarten Assistenten wie Alexa von Amazon wird ein großes Überwachungspotenzial zugeschrieben, weil sie manchmal mit Kameras und immer mit Mikrofonen ausgestattet sind und so in unserem Alltag mithören. Das besonders intrusive smarte Spielzeug „My Friend Cayla“ hatte die Bundesnetzagentur bereits 2017 als verbotene Überwachungsanlage klassifiziert und seine Vernichtung angeordnet. Über die Gefahren und Chancen einfacher Sensoren im smarten Zuhause wird dagegen überraschend wenig gesprochen. Dabei sind diese heute in allen möglichen Alltagsgegenständen verbaut. Sie erheben zahlreiche Daten wie Temperatur, Luftfeuchtigkeit oder Bewegung. So ist es zum Beispiel möglich, automatisch die Heizung runterzudrehen, wenn das Fenster zum Lüften geöffnet wird.
Aus Versehen böse
Um sich bewusst zu werden, wie weit verbreitet solche einfachen Sensoren sind, reicht ein Spaziergang durch den nächsten Elektrofachmarkt: Kühlschränke mit smarten Thermometern, die ans Smartphone melden, wenn ihre Tür offen steht, oder smarte Türschlösser, die aufzeichnen, wer gekommen und gegangen ist, gehören mittlerweile zum Standardsortiment. Die Erfassung grundlegender Sensordaten in den eigenen vier Wänden hat viele Vorteile: Sie kann dabei helfen, Energie zu sparen oder das Zuhause komfortabler und sicherer zu machen. Was auf den ersten Blick harmlos scheint, kann leider auch die eigene Privatsphäre gefährden – mehr, als das vielen bewusst ist. Doch wo genau versteckt sich die Bösartigkeit dieser Sensoren?
Um mehr über die Verwendung einfacher Sensordaten im Zuhause zu erfahren, haben wir in einer Studie mit einem Team von 16 Teilnehmer*innen aus neun Haushalten zusammengearbeitet. Ihnen haben wir einfache Sensoren, die Luftdruck, Bewegung, Temperatur und Helligkeit messen, und ein Tablet, das die gesammelten Daten visualisiert, mit nach Hause gegeben. Bei der Auswertung berichtete eine Teilnehmerin: „Also es war relativ lustig, weil [mein Lebensgefährte] war unterwegs gewesen und der hatte irgendwie gesagt: ‚Ich bin schon die ganze Zeit im Garten.‘ Und dann hab ich gelacht und hab gesagt: ‚Das kann gar nicht sein, weil erst 17:30 die Wohnungstür wieder aufgegangen ist.‘ (Lachen) Und da hat er gesagt: ‚Echt?‘ Ich sag: ‚Was hast du gemacht?‘ – ‚Ich glaub, ich hab noch mal ne Stunde auf der Couch gelegen und gepennt.‘ Ich sage: ‚Ja. Aber du warst nicht im Garten.‘ Und da hat er gefragt: ‚Hast du mich überwacht?‘“
So leicht kann ein einfacher Sensor zum Problem für die Privatsphäre werden. In diesem Fall waren weder Kameras noch Mikrofone involviert, und auch keine mächtige Organisation griff systematisch auf persönliche Daten zu und wertete diese mit künstlicher Intelligenz aus. Stattdessen verknüpfte eine Nutzerin die Sensordaten eines einfachen Bewegungsmelders an der Wohnungstür mit Wissen über ihren Partner – und plötzlich wurden diese Sensordaten zum Machtinstrument.
Kommerziell erhältliche smarte Türschlösser speichern ganz ähnliche Daten und sind ein gutes Beispiel dafür, wie unterschiedliche Ansprüche an Privatsphäre kollidieren können: Sowohl Eltern als auch ihre Kinder im Teenager-Alter befürworten Smart Locks als komfortable Möglichkeit, aus der Ferne über das Internet die Tür zu öffnen und als zusätzliche Sicherheit gegen Einbrüche. Gleichzeitig kollidiert das Sicherheitsbedürfnis der Eltern mit den Erwartungen der Teenager an die Privatsphäre: Genau zu wissen, wer wann nach Hause kommt, kann in Familien durchaus zu Spannungen führen. Die Auswirkungen einfacher Sensoren im Zuhause betreffen eben nicht nur diejenigen, die bewusst solche Sensoren nutzen, sondern auch alle anderen, die in diesem ein und aus gehen.
Rückschlüsse, die viel verraten
Vermieter*innen können mit besten Absichten die Luftfeuchtigkeit im Badezimmer überwachen, um Schimmelbildung zu verhindern. Und doch lassen solche einfachen Sensoren Rückschlüsse über die Badezimmernutzung zu. Werden solche Daten dann auch noch automatisch verarbeitet, kann dies zu falschen Interpretationen führen und weitreichende Auswirkungen haben: Von der gemessenen Luftfeuchtigkeit lässt sich die Länge des Duschens messen und damit auf die Anzahl der duschenden Personen schließen. Und durch Tracking und Datenanalyse von vermeintlich einfachen Sensoren lässt sich noch viel über das Nutzungsverhalten herausfinden.
Dieses Wissen wird für die Hersteller selbst zur Handelsware: ein Grund, warum Verbraucher*innen oft wenig Einblick in die Daten haben, die ein Gerät über sie sammelt. Es mangelt an Transparenz, nicht nur hinsichtlich der erfassten Daten selbst, sondern auch darüber, wohin sie übertragen und von wem sie wie überwacht werden. Für Verbraucher*innen gibt es bislang weder transparente Informationen zu dieser Problematik, etwa in Form von klaren Angaben auf Produktverpackungen, noch sichere Nutzungsalternativen. Werte wie Komfort, Effizienz und Sicherheit geraten so leicht in Konflikt mit Privatsphäre, Offenheit und Transparenz. Aus „gut gemeint“ wird „böse aus Versehen“.
Fest steht, dass die potenziell gefährlichen Auswirkungen vermeintlich einfacher Sensoren nicht nur Entwickler*innen und Unternehmen bewusst sein müssen, sondern vor allem denjenigen, die diese benutzen. Ein partizipativer Ansatz ist daher besonders geeignet: Gemeinsam mit Verbraucher*innen und der Verbraucherzentrale Sachsen wollen wir von TU Chemnitz und Hochschule Anhalt daher im Projekt „Simplications“ für die Risiken sensibilisieren und Hinweise für Verbraucher*innen und Entwickler*innen für datenschutzsensible Smart-Home-Lösungen entwickeln.
Fachgruppe Partizipation
Das zentrale Anliegen der Fachgruppe Partizipative und sozialverantwortliche Technikentwicklung in der Gesellschaft für Informatik ist es, die Beteiligung von Menschen, die durch eine Technologie direkt oder indirekt berührt werden, zum festen Bestandteil technischer Forschungs- und Entwicklungsprozesse in der Mensch-Computer-Interaktion zu machen. Dies basiert auf dem grundlegenden Bekenntnis zur hervorgehobenen Position der Mensch-Computer-Interaktion als Schnittstelle von Gesellschaft, Mensch und Technik und der daraus resultierenden sozialen Verantwortung von Forscher*innen und Technikgestalter*innen für direkte und indirekte Effekte dieser Technologien.
Unseren Kolleg*innen in der Informatik möchten wir vorschlagen, noch einmal anders über Sensoren nachzudenken: Wir könnten Sensoren entwickeln, die unscharfe Daten generieren und so zum Beispiel den Eltern erlauben zu sehen, ob die Teenager zu Hause sind, aber nicht, wann sie angekommen sind. Oder Luftfeuchtigkeitssensoren, die von Vermieter*innen und den Bewohner*innen in diskreten Schritten wie „alles ok“, „bald kurz lüften“ oder „gefährlich feucht“ beschriftet werden müssen, damit sie funktionieren.
Die gute Nachricht: Einfache Sensordaten können auch das Ausgangsmaterial für emotional wertvolle smarte Objekte sein. Wie sie gerade Menschen mit besonderen Bedürfnissen helfen können, zeigt das Beispiel des „Whether Bird“, den wir in einem Projekt zusammen mit blinden und sehbehinderten Schüler*innen entwickelt haben. Sein Name enthält ganz bewusst das englische Wort für „ob“ und nicht das für „Wetter“. Denn er löst ein Problem der jungen Co-Designer*innen: Sie können in ihren Wetter-Apps immer nur Vorhersagen aufrufen, erfahren darüber aber nicht, wie das Wetter zum Beispiel in der vergangenen Nacht war und ob es auf dem Schulweg noch nass ist, wenn sie morgens hinausgehen wollen.
Geheimsprache ohne Stigma
Deswegen haben die Schüler*innen den Whether Bird (also den Ob-Vogel) entworfen: Draußen auf der Fensterbank misst ein Feuchtigkeitssensor die Regenmenge der vergangenen Stunden. In der Wohnung lebt ein Plüschvogel, der mit einem kleinen Lautsprecher und Melodiegenerator ausgestattet und drahtlos mit dem Feuchtigkeitssensor verbunden ist. Der Plüschvogel singt, wenn man ihn am Schnabel zupft, und tut dies je nachdem, ob es geregnet hat, ein wenig anders. Nur die Nutzerin selbst weiß, was welche Melodie bedeutet. Diese datensparsame Geheimsprache ist eine Möglichkeit, gängige Sprachassistenten für blinde Menschen zu umgehen, die die Schüler*innen ablehnten, weil sie durch ihre Benutzung als „bedürftig und behindert“ wahrgenommen würden.
Auch neue Formen der zwischenmenschlichen Interaktion werden durch einfache Sensordaten möglich. Das zeigen zum Beispiel die Yo-Yo Machines, die über simple, selbstgebaute Tools Menschen miteinander in Kontakt bringen, die räumlich voneinander getrennt leben. So aktiviert zum Beispiel ein Drucksensor in der einen Wohnung ein kleines Licht in der anderen – und eine Mutter weiß ohne Worte, dass ihr Sohn gerade in seinem Lieblingssessel sitzt. Von außen lässt sich diese Kommunikation und ihre Bedeutung nur schwer überwachen, für Mutter und Sohn bietet sie eine einfache, aber wirkungsvolle gemeinsame Geheimsprache.
Wie aber gelingt es nun, das Potenzial dieser Sensoren zu nutzen, ohne ihre Bösartigkeit zu wecken? In der Technikentwicklung, besonders in der Informatik, und Informatikausbildung reden wir immer noch zu viel über technische Fortschritte und zu wenig über die Bedürfnisse von Menschen und die Auswirkungen von Technologien.
Im interdisziplinären Verbund von Soziologie, Design und Informatik in enger Kooperation mit denen, die von dieser Technologie betroffen sein werden, wollen wir von HS Anhalt und TU Chemnitz im Projekt „Bitplush“ noch einmal neu über smarte Objekte nachdenken: Das Zuhause ist unser privatester Raum, der zunehmend bevölkert wird von Technologien, die Effizienz und Produktivität propagieren. Welche Objekte in diesen Raum kommen und was sie dort dürfen, sollten Entwickler*innen gemeinsam mit zukünftigen Verwender*innen erörtern: Welche Werte, Wünsche und Bedürfnisse gilt es zu berücksichtigen? Darauf aufbauend lassen sich ganz individuelle smarte Objekte entwickeln.
Das wird uns womöglich wegführen von technischen Lösungen, die leicht skalierbar und effizient vermarktbar sind. Es eröffnet aber einen Möglichkeitsraum, in dem die blinde Schülerin ihren eigenen individuellen Wetter-Vogel hat und Mutter und Sohn ihre Verbindung durch Drucksensor und Lampe intensivieren, ohne andere Formen der Kommunikation zu ersetzen.
Über die Autoren
Arne Berger
ist Professor für Mensch-Computer-Interaktion an der Hochschule Anhalt. Seine Arbeit ist von der skandinavischen Tradition des Participatory Design geprägt, die anerkennt, dass diejenigen, die von einer Zukunftstechnologie betroffen sein werden, bei ihrer Entwicklung ein aktives Mitspracherecht haben sollen. Er ist Sprecher der Fachgruppe Partizipation in der GI, hat vor seiner akademischen Karriere Typographie gelehrt, war Einwohner von #BlackRockCity und nimmt lokale Delikatessen ein klein wenig zu ernst.
Andreas Bischof
hat die Juniorprofessur für Soziologie mit Schwerpunkt Technik an der TU Chemnitz inne und leitet dort mehrere Forschungsprojekte. Mit einem Hintergrund in Soziologie, Medienkommunikation und Kulturwissenschaften untersucht er, wie Technik, Wissenschaft und Gesellschaft miteinander interagieren. Er ist Mitbegründer des interdisziplinären Socio-Gerontechnology Networks und initiierte das Stadtlabor der TU Chemnitz als Begegnungsraum für partizipative Forschung.
Albrecht Kurze
ist Postdoc an der Professur Medieninformatik der TU Chemnitz. Er hat Informatik studiert und interdisziplinär zwischen Informatik und Psychologie promoviert. Seine Forschungsinteressen liegen an der Schnittstelle von Mensch-Computer-Interaktion und dem Internet der Dinge, vor allem in der Interaktion mit smarten vernetzten Gegenständen, die immer weiter den Alltag durchdringen. Er ist daran interessiert, wie in einem daten- und menschzentrierten Design- und Entwicklungsprozess bessere interaktive Lösungen entstehen.
Deep Dive
Alle, die mehr über das Thema erfahren wollen, finden hier weitere Projekte sowie die Literatur, auf die sich die Autoren beziehen.
Weitere Forschungsprojekte:
Praktische Anwendungen von partizipativem Design zeigen die beiden BMBF-Projekte Bitplush und Simplications, die ebenfalls die Chancen und Risiken einfacher Sensordaten betrachten. Bei Simplications entwickelt ein Verbund von Technische Universität Chemnitz, Hochschule Anhalt und Verbraucherzentrale Sachsen Lehr- und Lernmaterial dazu, wie gefährlich solche Sensoren im Sinne einer Überwachung und eines Eingriffs in die Privatsphäre sein können.
Im Verbund Bitplush von HS Anhalt, TU Chemnitz, Kösener Spielzeug Manufaktur und dem Textilforschungsinstitut Thüringen-Vogtland e. V. fragen wir andersherum: Was kann ich Tolles damit machen? Kann ich solche einfachen Sensordaten auf eine privatsphärenfreundliche Art nutzen, um mit anderen Menschen zu kommunizieren?
Praxisbeispiele:
https://www.candlesmarthome.com/
Potenziale und Risiken der Nutzung einfacher Sensordaten im Wohnumfeld:
Kurze, A. et al. (2020), Guess The Data: Data Work To Understand How People Make Sense Of And Use Simple Sensor Data From Homes. 2020 CHI Conference
http://doi.org/10.1145/3313831.3376273
Laput, G. et al. (2017), Synthetic Sensors: Towards General-Purpose Sensing. 2017 CHI Conference
http://doi.org/10.1145/3025453.3025773
Richter, J. et al. (2018), Machtförmige Praktiken durch Sensordaten in Wohnungen. Mensch und Computer 2018
http://doi.org/10.18420/muc2018-mci-0253
Fantasievolle Nutzung einfacher Sensordaten:
Berger, Arne, Kurze, Albrecht, Bischof, Andreas, Benjamin, Jesse Joshua, Wong, Richmond Y. and Merrill, Nick (2023), Accidentally Evil: On Questionable Values in Smart Home Co-Design. In: Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems (CHI ’23). Association for Computing Machinery, New York, NY, USA, Article 629, 1–14
https://doi.org/10.1145/3544548.3581504
Berger, Arne, Odom, William, Storz, Michael, Bischof, Andreas, Kurze, Albrecht and Hornecker, Eva (2019), The Inflatable Cat: Idiosyncratic Ideation of Smart Objects for the Home. In: Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems
https://doi.org/10.1145/3290605.3300631
Gaver, William, Boucher, Andy, Brown, Dean, Chatting, David, Matsuda, Naho, Ovalle, Liliana, Sheen, Andy and Vanis, Michail (2022), Yo-Yo Machines: Self-Build Devices that Support Social Connections During the Pandemic. In: Proceedings of the 2022 CHI Conference on Human Factors in Computing Systems (CHI 22). Association for Computing Machinery, New York, NY, USA, Article 458, 1–17
https://doi.org/10.1145/3491102.3517547
