Der ultimative Leitfaden für sicheres Design

Ethisches Design ist ein integraler Bestandteil des Produktentwicklungszyklus. Designer müssen sich der Auswirkungen ihrer Produkte auf das Leben der Nutzer bewusst sein. Diese können je nach den Erfahrungen, die Nutzer beim Kauf von Produkten und Dienstleistungen machen, entweder gut oder schlecht sein. Unter Berücksichtigung der Prinzipien, Überzeugungen und Moralvorstellungen des Unternehmens sollten Designer Produkte entwickeln, die die Sicherheit der Nutzer priorisieren und das wertvollste Gut aufbauen: „Kundenvertrauen und -loyalität“. Dieser Artikel kann ein Augenöffner für Menschen sein, die die Bedeutung von ethischem Design verstehen müssen. Er enthält die wesentlichen Prinzipien des ethischen Designs und die besten Praktiken, die für ein verantwortungsvolles Design für potenzielle Nutzer erforderlich sind. 

Sind wir beim Design unserer Produkte sorgfältig genug?

Ist es nicht die Verantwortung jedes Unternehmens zu erkennen, ob das, was es der Welt anbietet, einen Mehrwert für das Leben seiner Nutzer darstellt oder nicht? Was, wenn Ihre Produkte ihnen in gewisser Weise schaden? Nehmen Sie das zur Kenntnis? Nun, es hängt ganz von den Unternehmen ab, ob sie sich an die Sicherheitsvorschriften und -bestimmungen bezüglich des Designs von Produkten und Dienstleistungen halten wollen. Sie werden einige Unternehmen finden, die Zeit und Geld verschwenden und einen Dienst schaffen, der ihren Nutzern unangenehme Nebenwirkungen beschert. Manchmal werden auch Lösungen angeboten, die das Vertrauen und die Loyalität der Kunden zu ihren bevorzugten Marken völlig untergraben. Immer wieder beginnen Designdilemmata mit einer homogenen Gruppe von Menschen, die gedankenlos Produkte, Dienstleistungen oder Prozesse entwerfen, ohne auch nur an die schädlichen Auswirkungen zu denken, die sie auf die Verbraucher haben können. 

Menschen neigen dazu, den Fokus auf ethische Richtlinien zu verlieren und verkennen auch, dass ethische Probleme im Zusammenhang mit Technologie nicht einfach verschwinden, nachdem bestimmte Aufgaben erledigt wurden. Es ist notwendig, darüber nachzudenken, was mit Software, Hardware, Geräten oder Daten nach ihrer Bereitstellung geschieht. Nehmen wir an, Sie haben vor der Veröffentlichung eines Produkts umfangreiche Tests durchgeführt, es können dennoch Bedrohungen entstehen, die große Herausforderungen mit sich bringen. Daher ist es immer ratsam, alle möglichen Risiken zu berücksichtigen und die notwendigen Lösungen zu finden. Einige der führenden Unternehmen finden Wege, ethische Probleme zu lösen, indem sie Teams und Rollen etablieren, die die vielfältige Kundenbasis widerspiegeln und unterschiedliche Perspektiven aus verschiedenen Branchen, ethnischen Hintergründen, Bildungserfahrungen, Geschlechtern und wirtschaftlichen Hintergründen sammeln können. Sie können neue technologiegetriebene Produkte und Dienstleistungen entwerfen, wobei sie die ethischen Prinzipien von Anfang an berücksichtigen. Dies wird ihnen helfen, Probleme im Vorfeld zu antizipieren und zu vermeiden. 

Sind wir uns der Prinzipien des ethischen Designs bewusst?

Unternehmen müssen die Prinzipien des ethischen Designs priorisieren und sie auch bei der Gestaltung jedes Produkts oder jeder Dienstleistung unbedingt berücksichtigen. Die Prinzipien des ethischen Designs drehen sich mehr um den Respekt vor Menschenrechten, Bemühungen und Erfahrungen und sind sogar von der Allgemeinen Erklärung der Menschenrechte der Vereinten Nationen motiviert. 

Unten sehen Sie die Pyramide der „Ethischen Bedürfnishierarchie“, die von Aral Balkan, einem Cyborg-Rechte-Aktivisten, Designer und Entwickler, und Laura Kalbag, einer Designerin aus Großbritannien und Autorin von „Accessibility For Everyone“ von A Book Apart, erstellt wurde. Mit dieser Pyramide versuchen sie, den Kern des ethischen Designs zu erklären und wie jede Schicht der Pyramide auf der darunterliegenden Schicht ruht und von ihr abhängt, um zu bestätigen, dass das Design rein ethisch ist. 

Hier sind die Prinzipien des ethischen Designs, die von Organisationen bei der Gestaltung neuer technologiegetriebener Produkte und Dienstleistungen betont werden müssen. 

Notwendigkeit der Usability

Usability kann heutzutage als Grundvoraussetzung angesehen werden. Daher wird ein unbrauchbares Produkt als Designfehler bezeichnet. Am wichtigsten ist, dass das Design es den Nutzern ermöglichen sollte, genau das zu erreichen, was sie wollen, ihre Anforderungen zu erfüllen und ihnen zu helfen, es einfach und ohne Bedenken zu nutzen. Hier sind fünf wichtige Kernkomponenten der Usability, die von Jakob Nielsen von der Nielsen Norman Group genannt werden.

• Lernbarkeit. Wie einfach und unkompliziert ist es für Erstnutzer?
• Effizienz. Wie schnell können Nutzer Aufgaben erledigen?
• Einprägsamkeit. Welche Art von Erfahrung ist es für wiederkehrende Nutzer?
• Fehler. Wie viele Fehler machen Nutzer und wie schwerwiegend sind diese Fehler?
• Zufriedenheit. Wie zufriedenstellend ist die Nutzung des Designs?

Eine der moralischen Verpflichtungen von Designern ist es, Produkte zu schaffen, die sicher und intuitiv sind. Hier ist ein Beispiel, bei dem die Usability komplett versagt hat. Es geschah, als Samsungs Galaxy Note 7 spontan Feuer fing. Im Gegensatz dazu möchte ich Ihnen ein weiteres Beispiel geben, wo gute Usability die Nutzererfahrung verbessert: Die amerikanische Apotheke Walgreens unterstützt ihre Nutzer mit einer mobilen Anwendung, indem sie rechtzeitig Erinnerungen sendet, die beim Nachfüllen von Dingen wie Vitaminen helfen, die einfach über die Anwendung bestellt werden können, indem man einfach den Barcode auf einer Rezeptflasche scannt. Solche kleinen Anpassungen im Design können die Nutzererfahrung immens beeinflussen. Mehr zur Usability hier.

Notwendigkeit der Barrierefreiheit

Barrierefreiheit muss im Entwicklungsprozess integriert werden, während ein Produkt oder eine Dienstleistung entworfen wird, und nicht erst am Ende. Obwohl Produkte für den „Zielkonsumenten“ entwickelt werden, müssen Sie sicherstellen, dass niemand zurückgelassen wird. Ich spreche hier von Menschen mit Behinderungen. Zum Beispiel ist das Webdesign nicht immer für Menschen mit Sehbehinderung optimiert, obwohl laut der Weltgesundheitsorganisation mindestens 1 Milliarde Menschen sehbehindert sind. 

Mithilfe assistiver Technologien können sehbehinderte Menschen das Internet nutzen, aber es gibt immer noch einige Webdesign-Mängel, die die Barrierefreiheit verhindern. Auch einige der häufigsten Probleme, die bei sehbehinderten Nutzern gefunden werden, sind: Bereiche, die nicht über den Screenreader zugänglich sind, Bilder ohne Alternativtext und Links oder Schaltflächen ohne zugängliche Beschreibung. 

Erfahren Sie hier mehr über Barrierefreiheit:

• Wie man Web-Barrierefreiheit plant
• Der Business-Faktor von Web-Barrierefreiheit
• Kognitive Barrierefreiheit im Webdesign
• Designüberlegungen für Barrierefreiheit

Notwendigkeit der Privatsphäre

Datenschutzfragen stehen immer an erster Stelle, wenn es um digitales Design geht. Wenn wir über Alexa und ihre Fähigkeit, unsere Gespräche abzuhören, sprechen, dann unsere Klicks von Google überwacht werden und Facebook Zugang zu unseren privaten Nachrichten erhält, scheinen unsere Datenschutzbedenken mit der Zeit zuzunehmen. Die beste Lösung für diese ethischen Bedenken kann daher darin bestehen, Designs zu erstellen, die nur persönliche Informationen sammeln können, die im besten Interesse der Verbraucher liegen. Zum Beispiel ist Signal eine sichere Messenger-Anwendung, die speziell zum Schutz der Privatsphäre der Nutzer entwickelt wurde. Wenn Sie sich anmelden, wird nur Ihre Telefonnummer abgefragt, da dies alles ist, was für die Nutzung der Anwendung erforderlich ist. Auf diese Weise können Unternehmen Produkte entwerfen, die die Privatsphäre der Nutzer priorisieren und das wichtigste Kundenvertrauen und die Loyalität aufbauen. 

Notwendigkeit von Transparenz und Klarheit

Eine der besten Praktiken für ethisches Design ist es, den Nutzern Transparenz zu ermöglichen, damit sie fundierte Entscheidungen treffen können, einschließlich klarer Möglichkeiten für Nutzer, Mitgliedschaften einfach zu kündigen. Zum Beispiel bietet Amazon die Möglichkeit des kostenlosen Versands, wenn Sie eine Testphase von Amazon Prime nutzen. Sobald Ihre kostenlose Testphase abgelaufen ist, berechnet Amazon Ihnen jedoch automatisch die vollen Kosten der Jahresmitgliedschaft, es sei denn, Sie kündigen manuell, und es gibt keine Benachrichtigung oder Warnung, bevor die Gebühren anfallen.

Notwendigkeit der Nutzerbeteiligung

Da alle Designs für die Nutzer erstellt werden, wäre es nicht eine gute Idee, die Meinung der Nutzer bei Designentscheidungen, Anforderungen und Ideen einzubeziehen? Eine solche Nutzerbeteiligung erweist sich als sehr vorteilhaft für den Nutzer, den Designer und den Designprozess. Eine der effektiven Möglichkeiten zur Analyse der Nutzerbeteiligung kann die Durchführung kleiner Gruppen von Nutzertests sein, die Ihnen die Mängel aufzeigen und es Ihnen ermöglichen, das Design zu überarbeiten und erneut zu testen. Auf diese Weise kann die Nutzererfahrung wesentlich besser verbessert werden. 

Notwendigkeit, Nutzerpräferenzen zu verstehen

Es ist gut, wenn Designer die Tatsache verstehen, dass jedes von ihnen erstellte Tool oder jede Dienstleistung nur ein sehr kleiner Teil des Lebens eines Nutzers ist und dass Nutzer manchmal eine Pause brauchen. Im Grunde meine ich, dass die Produkte verfügbar sein sollten, wenn die Nutzer sie benötigen, und aus dem Weg gehen sollten, wenn sie sie manchmal nicht brauchen. Sie können sehen, dass YouTube und Netflix es den Nutzern mit ihrer Auto-Play-Funktion ziemlich einfach gemacht haben, Serien zu schauen. Auch Facebook hat eine solche Plattform entworfen, die dazu neigt, ihre Nutzer auszunutzen, indem sie eine „soziale Validierungs-Feedbackschleife“ verwendet, die bei ihren Nutzern Begeisterung wecken kann, sich mit Funktionen wie Likes oder Kommentaren zu beschäftigen, wodurch sie erneut posten oder nach neuen Benachrichtigungen suchen können.

Erfahren Sie mehr:

• Nutzerzentrierter Designansatz: Prinzipien und Methoden
• Aufbau von Nutzervertrauen im UX-Design
• Wie man Nutzerforschung ohne direkten Zugang zu Nutzern betreibt

Notwendigkeit, sich auf Nachhaltigkeit zu konzentrieren

Da wir alle wissen, dass der Klimawandel ein globales Problem ist, ist es jetzt an der Zeit für Designer, den Einfluss ihrer Arbeit auf die Umwelt, das Klima und die Ressourcen der Welt zu berücksichtigen. Ein erstaunliches Beispiel für einen ethischen Designtrend, der Nachhaltigkeit unterstützt, ist das zirkuläre Design, das eine geschlossene Kreislauf-Designstrategie verwendet, bei der Ressourcen kontinuierlich wiederverwendet werden.

Anstatt Produkte und Dienstleistungen zu entwerfen, die einen linearen Lebenszyklus mit einem Anfang, einer Mitte und einem Ende haben, sollte die Absicht sein, Produkte zu entwerfen, die spontan in zahlreichen Formen zirkuliert werden, gefolgt von einem Wiederverwendungs- und Recyclingkreislauf, der zu weniger Abfall führt. Die meisten Unternehmen übernehmen zirkuläre Designs, wie 57st. design, die modulare Möbel herstellen, AMP Robotics, die effizientere Recyclingroboter programmieren, und PlasticRoad, das Kunststoff zu modularen Straßenbausteinen recycelt.

Best Practices für verantwortungsvolles Design und ethische Aspekte im Fokus

In diesem Abschnitt werde ich nun einige der besten Praktiken vorstellen, die dabei helfen, verantwortungsvoll zu gestalten, unter Berücksichtigung ethischer Werte und Prinzipien.  

Umfassende Recherche durchführen

Designforschung besteht aus einer umfassenden Analyse, wie genau Ihre Technologie für Missbrauch instrumentalisiert werden kann, sowie aus spezifischen Einblicken in die Erfahrungen von Überlebenden und Tätern dieser Art von Missbrauch. In dieser Phase wird das potenzielle Team Probleme zwischenmenschlicher Schäden und Missbrauchs untersuchen und alle anderen Sicherheits- oder Inklusivitätsbedenken erforschen, die für Ihr Produkt oder Ihre Dienstleistung relevant sein könnten, wie Datensicherheit, rassistische Algorithmen und Belästigung.

• Umfassende Recherche

Es kann wirklich sehr vorteilhaft sein, wenn Sie mit der Recherche zu Produkten und Problemen im Zusammenhang mit Sicherheits- und Ethikbedenken beginnen, die bereits mit einer breiten und allgemeinen Recherche gemeldet wurden. Zum Beispiel würde eine Gruppe von Mitgliedern, die ein Smart-Home-Gerät entwerfen, gut daran tun, die Vielzahl der Möglichkeiten zu erkennen, wie Smart-Home-Geräte derzeit als Werkzeuge des Missbrauchs eingesetzt wurden. Wenn Ihr Produkt KI beinhaltet, müssen Sie das Potenzial für Rassismus und andere Bedenken erkennen, die in bestehenden KI-Produkten gemeldet wurden. Fast alle Arten von Technologie haben ein gewisses Potenzial oder sogar tatsächlichen Schaden, der in den Nachrichten gemeldet wurde. Google Scholar kann als nützliches Werkzeug zum Auffinden dieser Studien bezeichnet werden.

• Gespräche mit Überlebenden führen

Es ist immer vorzuziehen, zuerst Befürworter zu interviewen, die in Ihrem Forschungsbereich tätig sind, damit Sie ein besseres Verständnis und Klarheit über den Missbrauch gewinnen, was Sie weiter darauf vorbereitet, eine reibungslose Interaktion mit dem Überlebenden zu haben. Stellen Sie beim Interview mit einem Überlebenden sicher, dass er für sein Wissen und seine geteilten Erfahrungen bezahlt wird. Sie zu bitten, ihre Erfahrungen kostenlos zu teilen, kann wirklich ausbeuterisch sein. Es ist auch möglich, dass einige Überlebende nicht bezahlt werden möchten, daher müssen Sie das Angebot gleich im ersten Gespräch machen. Und eine weitere bequeme Möglichkeit, eine Zahlung zu leisten, kann darin bestehen, an eine Organisation zu spenden, die aktiv gegen die Art von Gewalt vorgeht, die der Interviewte erlebt hat. 

• Gespräche mit Tätern führen

Es kann sehr hilfreich sein, wenn Sie sich mit einem Täter in Verbindung setzen und wichtige Fakten erfahren, wie er Technologie instrumentalisiert, um sie gegen jemanden einzusetzen, wie er seine Spuren verwischt und wie er den Missbrauch rationalisiert oder erklärt. Dies wird Ihnen helfen, sorgfältiger mit der Sicherheit Ihres Designs umzugehen und besser vorbereitet zu sein, um sicherere und risikofreiere Produkte und Dienstleistungen zu entwickeln.  

Archetypen erstellen

Nach Abschluss Ihrer Recherche müssen Sie Ihre Erkenntnisse nutzen, um Täter- und Überlebenden-Archetypen zu erstellen. Archetypen können nicht als Personas betrachtet werden, da sie nicht auf realen Personen basieren, die Sie befragt und interviewt haben. Vielmehr basieren sie auf Ihrer Recherche zu wahrscheinlichen Sicherheitsbedenken, wie beim Design für Barrierefreiheit: wo wir nicht unbedingt eine Gruppe sehbehinderter Nutzer in unserer Interviewsitzung benötigen, um ein Design zu erstellen, das sie einschließt. Tatsächlich neigen wir dazu, diese Designs auf der Grundlage bestehender Forschung darüber zu erstellen, was diese Gruppe benötigt. Lassen Sie mich Ihnen hier etwas über Personas erzählen. Im Grunde repräsentieren Personas echte Nutzer, einschließlich vieler Details, während Archetypen breiter gefasst und meist verallgemeinert werden können. 

Lassen Sie uns nun einen Täter- und Überlebenden-Archetyp besprechen. Der Täter-Archetyp ist jemand, der ein Produkt als Werkzeug zur Schädigung oder Beschädigung betrachtet. Solche Täter könnten versuchen, jemandem, den sie nicht einmal kennen, durch Überwachung oder anonyme Belästigung Schaden zuzufügen, oder sie könnten sogar versuchen, jemanden, den sie persönlich kennen, zu überwachen, zu kontrollieren, zu missbrauchen oder zu foltern. Der Überlebenden-Archetyp ist eine Person, die mit dem Produkt missbraucht wird. Es gibt zahlreiche Situationen zu berücksichtigen, was das Verständnis des Archetyps für den Missbrauch und dessen Beendigung betrifft. Benötigen die Überlebenden einen Beweis für den Missbrauch, den sie bereits vermuten, oder sind sie sich nicht bewusst, dass sie ins Visier genommen wurden, und müssen sich dessen bewusst werden?

Sie könnten verschiedene Überlebenden-Archetypen erstellen, um eine breite Palette unterschiedlicher Erfahrungen zu erfassen. Die Überlebenden wissen möglicherweise, dass der Missbrauch stattfindet, können ihn aber nicht stoppen, zum Beispiel könnte ein Täter sie von IoT-Geräten aussperren, was sie wissen, aber gleichzeitig nicht wissen, wie ein Stalker ihren Standort verfolgt. Sie können so viele Szenarien wie gewünscht in Ihren Überlebenden-Archetyp aufnehmen. Diese können später beim Entwerfen von Lösungen verwendet werden, um Ihren Überlebenden-Archetypen zu ermöglichen, ihre Ziele der Beendigung des Missbrauchs zu erreichen.

Probleme brainstormen

Sobald Sie die Archetypen erstellt haben, müssen Sie einfach neuartige Missbrauchsfälle und Sicherheitsbedenken brainstormen. Was ich mit „neuartig“ meine, sind Dinge, die in Ihrer Recherche nicht gefunden wurden; und Sie versuchen, völlig neue Sicherheitsbedenken zu erkennen, die für Ihr Produkt oder Ihre Dienstleistung spezifisch sind. Das Ziel dieses Schritts ist es also, jede Anstrengung zu unternehmen, um Schäden oder Beeinträchtigungen zu erkennen, die Ihr Produkt verursachen könnte. Der nächste Schritt besteht dann darin, zu planen, wie der den Nutzern zugefügte Schaden gestoppt werden kann. Sie müssen sich mit Ihrem Team für einige Stunden zusammensetzen und wichtige Aspekte genau betrachten, wie zum Beispiel: Wie kann Ihr Produkt für jede Art von Missbrauch verwendet werden, abgesehen von dem, was Sie bereits in Ihrer Forschungsarbeit erkannt haben?  

Nach Abschluss der beiden oben genannten Schritte sind Sie möglicherweise immer noch nicht zufrieden mit der Identifizierung aller möglichen Missbräuche, die Ihr Produkt verursachen kann. Und es ist völlig in Ordnung, sich so zu fühlen. Das Wichtigste hier ist, dass Sie Ihr Bestes gegeben haben und sich darauf freuen sollten, die Designsicherheit auch für die Zukunft zu priorisieren. Und nachdem Ihr Produkt veröffentlicht wurde, ist es ganz normal, dass Nutzer neue Probleme identifizieren, die Sie übersehen haben. Versuchen Sie einfach, das Feedback höflich entgegenzunehmen und es so schnell wie möglich zu beheben.

Beste Lösungen entwerfen

Es ist vorzuziehen, eine Liste von Möglichkeiten zu haben, wie Ihr Produkt für Schäden genutzt werden kann, sowie Täter- und Überlebenden-Archetypen, die entgegengesetzte Nutzerziele erklären. Der nächste Schritt besteht dann darin, Mittel oder Methoden zu erkennen, um gegen die identifizierten Ziele des Täters zu entwerfen und die Ziele des Überlebenden zu unterstützen. Unten sind einige Fragen, die Sie sich stellen können, um Schäden zu verhindern und Ihre Archetypen zu unterstützen.

• Können Sie Ihr Produkt so gestalten, dass der identifizierte Schaden gar nicht erst auftreten kann? Wenn nicht, welche Art von Hindernissen können Sie aufstellen, um das Eintreten des Schadens zu verhindern?
• Wie können Sie dem Opfer bewusst machen, dass Missbrauch durch Ihr Produkt stattfindet?
• Wie können Sie dem Opfer verständlich machen, was es tun sollte, um dieses Problem zu beenden?
• Können Sie irgendwelche Arten von Nutzeraktivitäten identifizieren, die auf eine Form von Schaden oder Missbrauch hindeuten würden? Ist es möglich, dass Ihr Produkt dem Nutzer helfen kann, Unterstützung zu erhalten?

Schließlich: Sicherheitstests

Der letzte Schritt besteht darin, Ihre Prototypen aus der Perspektive Ihrer Archetypen zu testen: der Person, die das Produkt zur Schädigung instrumentalisieren möchte, und dem Opfer des Schadens, das die Technologie wiederherstellen muss. Wie bei jeder anderen Art von Produkttests werden Sie Ihre Sicherheitslösungen rigoros testen, um Lücken zu erkennen und zu korrigieren, zu validieren, dass Ihre Designs Ihren Nutzern Sicherheit bieten können, und sich viel sicherer fühlen, nachdem Sie Ihr Produkt auf den Markt gebracht haben.  

Normalerweise finden Sicherheitstests zusammen mit Usability-Tests statt. Sie könnten erwägen, Sicherheitstests entweder an Ihrem endgültigen Prototyp oder am tatsächlichen Produkt durchzuführen, falls es bereits auf den Markt gebracht wurde. Beachten Sie, dass Sicherheitstests Tests aus der Perspektive sowohl eines Überlebenden als auch eines Täters umfassen, obwohl es möglicherweise nicht richtig erscheint, beides zu tun. Wenn Sie andererseits mehrere Überlebenden-Archetypen erstellt haben, um mehrere Szenarien zu erfassen, müssen Sie aus der Perspektive jedes einzelnen testen. 

• Einen Überlebenden testen

Dieser spezielle Test hilft Ihnen zu erkennen, wie einfach es für jemanden sein kann, Ihr Produkt zur Schädigung zu instrumentalisieren. Anders als bei Usability-Tests machen Sie es den Tätern schwer, ihr Ziel zu erreichen. Sie können sich an den Zielen des Täter-Archetyps orientieren, den Sie zuvor erstellt haben, und Ihr Produkt so nutzen, um diese zu erreichen. 

• Einen Täter testen

Dieser spezielle Test beinhaltet das Erkennen, wie dem Überlebenden Informationen und Unterstützung geboten werden können. Dem Versuch eines Täters, jemanden zu stalken, entgegenzuwirken, kann auch das Ziel des Überlebenden-Archetyps erfüllen, d.h. nicht gestalkt zu werden, daher sind separate Tests aus der Sicht des Überlebenden nicht erforderlich. 

• Stresstests

Dieser spezielle Test hilft dabei, Ihr Produkt mitfühlender und inklusiver zu gestalten. Im Grunde stammt das Konzept aus Design for Real Life von Eric Meyer und Sara Wachter-Boettcher. Die Autoren stellten fest, dass Personas im Allgemeinen Menschen in den Mittelpunkt stellen, die einen guten Tag haben, aber echte Nutzer sind gestresst, ängstlich, haben einen schwierigen Tag und erleben tatsächlich Leid. Dies sind sogenannte „Stressfälle“, und wenn Ihre Produkte in einem Stressfall-Szenario für Nutzer getestet werden, kann dies Ihnen helfen, Stellen zu erkennen, an denen es an Design-Mitgefühl mangelt. 

Eine Studie des Weltwirtschaftsforums

Nun können Sie einen Blick auf dieses Whitepaper werfen, das vom Weltwirtschaftsforum zum verantwortungsvollen Einsatz von Technologie veröffentlicht wurde. Dieses Papier schlägt ein neues Framework vor, das praktische Schritte bietet, die Unternehmen ergreifen können, um verantwortungsvoller in Bezug auf ethisches Denken zu sein und es in jeder Phase des Technologieprodukt-Lebenszyklus umzusetzen. 

Ethische und menschenrechtliche Auswirkungen erkennen

Der allererste Schritt, den Sie zur Lösung eines Problems unternehmen können, ist, es zu erkennen und auch zu identifizieren, dass es existiert und angegangen werden muss. Sie werden feststellen, dass Branchen, die sich mit disruptiven Technologien beschäftigen, die Tatsache ignorieren, dass sie einen großen negativen Einfluss auf die Welt haben. Daher müssen Unternehmen die ethischen und menschenrechtlichen Auswirkungen unbedingt verstehen, und wenn sie solche Auswirkungen nicht identifizieren können, müssen sie Mitarbeiter oder Berater einstellen, die Experten sind und die erforderliche Menge an Ratschlägen und Vorschlägen geben können. Auch eine Menschenrechtspolitik kann erfolgreich die Grundlage für die Sensibilisierung von Mitarbeitern für Menschenrechte bilden und Schulungen mit Ethik- und Menschenrechtsexperten anbieten. Das jüngste Verbot von YouTube für Live-Übertragungen von Kindern „es sei denn, sie werden eindeutig von einem Erwachsenen begleitet“ ist ein gutes Beispiel für eine Anstrengung, potenzielle negative ethische oder menschenrechtliche Auswirkungen zu stoppen. Dieses Google-eigene Unternehmen hat begonnen, neue Schutzmechanismen einzuführen, darunter KI-Klassifikatoren, die Inhalte finden und auch entfernen können. 

Einbeziehung der Stakeholder

Das verantwortungsvolle Design und die Entwicklung von Technologie müssen die aktive Beteiligung von Stakeholdern und Rechteinhabern umfassen. Die Identifizierung geeigneter Bevölkerungsgruppen, insbesondere gefährdeter und marginalisierter Gruppen, die von der Technologie beeinflusst werden könnten, und die Einbindung in die frühen Phasen des Technologie-Lebenszyklus ermöglichen es Organisationen, Erkenntnisse zu integrieren und geeignete Anpassungen am Produktdesign vorzunehmen, um Risiken zu reduzieren und Möglichkeiten für positiven Einfluss zu erhöhen. Einige der Frameworks wie „Human Rights by Design“, „Responsible Innovation“, „Human-Centered Design“ und „Value Sensitive Design“ bieten Roadmaps, wie potenzielle Stakeholder und Rechteinhaber während des gesamten Designprozesses identifiziert werden können, unter Berücksichtigung ihrer Entscheidungen, Interessen und einer angemessenen Einbindung, um ihre Rechte und Werte zu verstehen, die durch die Nutzung der Technologie betroffen sein könnten. 

Verantwortlichkeit und Klarheit

Neben dem direkten Engagement sind verschiedene technische Ansätze als Reaktion auf Probleme oder Bedenken hinsichtlich Diskriminierung, Voreingenommenheit und mangelnder klarer Entscheidungsverfahren in der KI entstanden. Die Nutzung vielfältiger und repräsentativer Datensätze kann dazu beitragen, Voreingenommenheit und Diskriminierung in Algorithmen zu reduzieren, und Tools wie Accenture’s Fairness Toolkit und IBM’s AI Fairness 360 helfen Organisationen, faire Ergebnisse und Outcomes zu liefern. 

Fallstudien

Hier sind einige Fallstudien, die Ihnen ein besseres Verständnis für ethisches Design und Sicherheit vermitteln. 

Twitter

Im Jahr 2019 gab Twitter bekannt, dass es öffentliches Feedback zu einem Regelentwurf suchte, der den Umgang mit synthetischen und manipulierten Medien regeln sollte. Die frühen Entwürfe der Richtlinie umfassten Möglichkeiten wie das Platzieren eines Hinweises neben diesen Tweets, das Warnen von Nutzern, bevor sie Tweets likten oder teilten, und das Hinzufügen von Links zu zusätzlichen Kontextinformationen. Die erste verabschiedete Version der Richtlinie legte einen Bewertungsrahmen für den Umgang mit Tweets mit manipulierten Medien fest, der hauptsächlich auf drei Kriterien basierte: ob sie synthetische oder manipulierte Medien enthielten, ob sie „auf betrügerische Weise“ geteilt wurden und ob die Inhalte möglicherweise die öffentliche Sicherheit beeinträchtigen oder „ernsthaften Schaden verursachen“ könnten. Abgesehen davon, dass Kontext zu solchen Tweets hinzugefügt oder sie gekennzeichnet wurden, bestätigte Twitter, dass Tweets, die bestimmte Kombinationen dieser Kriterien erfüllten, möglicherweise in ihrer Sichtbarkeit verringert oder vollständig von der Plattform gelöscht würden. 

Twitters Bemühungen in Bezug auf synthetische und manipulierte Medien stimmten richtig mit den drei Hauptbereichen von Safety by Design überein. Zum Beispiel bot Twitter durch die Verbreitung seines Regelentwurfs und die gewissenhafte Suche nach öffentlichem Feedback über ein Online-Formular (das in Englisch, Hindi, Japanisch, Portugiesisch, Spanisch und Arabisch verfügbar war) und die Veröffentlichung einiger der Ergebnisse dieser Umfrage bei der Ankündigung der neuen Regel die notwendige Transparenz bezüglich seines Entscheidungsprozesses bei der Gestaltung der neuen Regel. Ebenso trug Twitter durch die Bereitstellung zusätzlichen Kontexts und die Kennzeichnung manipulierter Medien, anstatt sie zu entfernen, dazu bei, einen Raum für relevante Äußerungen und Kommentare zu erhalten, und bot den Nutzern gleichzeitig wichtige Autonomie in der Art und Weise, wie sie mit Tweets kommunizierten. Schließlich hat Twitter durch das direkte Kennzeichnen manipulierter Medien in der Benutzeroberfläche der Plattform aktiv die Verantwortung übernommen, manipulierte Medien auf seiner Plattform zu erkennen und darauf hinzuweisen (oder davon abzulenken).

Zoom 

Gemäß der Ankündigung von Zoom im April wurden eine Reihe signifikanter Maßnahmen vom Unternehmen eingeführt, um Sicherheits- und Datenschutzbedenken zu begegnen. Zoom kündigte sogar einen Stopp der Entwicklung neuer Funktionen an und verlagerte alle Engineering-Ressourcen auf die Behebung von Sicherheits- und Datenschutzbedenken. Es führte eine umfassende Überprüfung mit Drittanbietern durch und richtete einen CISO-Rat ein, bot eine Reihe von Schulungen, Tutorials, kostenlosen interaktiven regelmäßigen Webinaren für Nutzer an und ergriff Initiativen zur Verkürzung der Wartezeiten beim Support, damit Nutzer berechtigt sind, die verschiedenen im Produkt bereitgestellten Einstellungen zu verwenden, um sicherere Meetings einzurichten. Die Funktionen umfassen:

• Begrenzung der Teilnahme für Teilnehmer, die mit der in der Einladung angegebenen E-Mail-Adresse im Meeting angemeldet sind.
• Einrichtung einer Wartefunktion.
• Möglichkeit, den Meeting-Zugang mit einem Passwort zu schützen.
• Möglichkeit, Meetings nach Beginn zu sperren.
• Möglichkeit, Teilnehmer stummzuschalten, die nicht präsentieren.
• Möglichkeit, unerwünschte Teilnehmer zu entfernen.
• Möglichkeit, den privaten Chat zu deaktivieren.

Zoom erstellt einen Transparenzbericht, um Informationen bezüglich Anfragen nach Daten, Aufzeichnungen und Inhalten detailliert darzulegen. Der Chief Executive Officer hat wöchentliche Webinare veranstaltet, um Fragen aus der Community zu beantworten. 

Sehen Sie sich dieses informative Video zur Designsicherheit an.

Fazit

Sind Sie also bereit, verantwortungsbewusst genug mit Ihren Designs umzugehen? Ich nehme an, dieser Artikel hat Ihnen geholfen, Ihre Designethik viel ernster zu nehmen und Sie dazu inspiriert, Ihren potenziellen Verbrauchern gegenüber vertrauenswürdig zu werden. Und vertrauen Sie mir, indem Sie eine ethische Technologie-Denkweise annehmen, können Sie ethische Herausforderungen, die im Laufe der Zeit entstehen, vorhersehen und stark darauf reagieren.