Bei sicherheitskritischen Anwendungen (etwa in der Medizintechnik oder im autonomen Fahren) ist Security by Design unverzichtbar. Hier muss schon im Architekturkonzept die mögliche schlimmste Folge eines Softwarefehlers (Verletzungen, Todesfälle) mitbedacht werden. Das Vorsorgeprinzip würde argumentieren: Auch ohne absolute Gewissheit über alle Risiken darf man Sicherheit nicht dem Zufall überlassen. Lieber am Anfang etwas langsamer und sorgfältiger entwickeln, als später großes Leid verantworten zu müssen.
- September 2025
August 2025
Die philosophische Frage nach der Verantwortbarkeit von Innovation
In der Softwareentwicklung prallen zwei gegensätzliche Haltungen aufeinander. Auf der einen Seite steht „Security by Design", ein Ansatz nach dem Vorsorgeprinzip: Software soll von Anfang an sicher und vorausschauend entwickelt werden, um Schaden präventiv zu verhindern. Auf der anderen Seite steht der radikale Innovationsdrang, oft verkörpert durch das Motto „Move Fast and Break Things“. Dieser agnostische Experimentalismus fördert schnelle Iteration und nimmt Risiken bewusst in Kauf – Fehler und Sicherheitslücken werden dabei zunächst toleriert, in der Annahme, sie später beheben zu können.
Diese Gegenüberstellung wirft eine zentrale Ethik-Frage auf: Wie viel Vorsicht verträgt die Innovation, und wie viel Risiko ist verantwortbar? Welcher Ansatz ist gesellschaftlich verantwortbar? Entwickler:innen tragen eine Verantwortung gegenüber den Nutzer:innen und der Gesellschaft. Dieser Artikel beleuchtet diese Verantwortung aus philosophischer Sicht. Mit Blick auf Folgenverantwortung – etwa Hans Jonas’ Prinzip Verantwortung1 – wird diskutiert, wie Entwickler:innen die langfristigen Folgen ihrer Innovationen bedenken müssen. Zudem wird erörtert, warum „Ethik by Design” an Bedeutung gewinnt. Beispiele wie unsichere IoT-Geräte (Internet of Things) mit Sicherheitslücken zeigen die greifbaren Folgen unverantwortlicher Innovation und illustrieren, weshalb ein Umdenken notwendig ist.
Verantwortung der Entwickler:innen gegenüber der Gesellschaft
Softwareentwickler:innen gestalten mit ihrer Arbeit die digitale Welt, in der wir leben. Daraus erwächst eine Verantwortung gegenüber der Gesellschaft. Jede neue Technologie kann neben Nutzen auch Schaden bringen – und Entwickler:innen stehen ethisch in der Pflicht, diese möglichen Folgen abzuwägen. Der Philosoph Hans Jonas mahnte bereits 1979 in „Das Prinzip Verantwortung” vor den unbedachten Folgen technologischen Handelns. Seine Verantwortungsethik betont die Pflicht des Menschen, verantwortungsvoll mit der Umwelt und den zukünftigen Generationen umzugehen4. Übertragen auf die Softwareentwicklung heißt das: Entwickler:innen sollen die längerfristigen Auswirkungen ihrer Innovationen bedenken, nicht nur den kurzfristigen Erfolg.
Jonas formulierte sinngemäß einen neuen kategorischen Imperativ für das technische Zeitalter: Handle so, dass die Wirkungen deiner Handlungen verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden. In unserem Kontext könnte man abwandeln: Handle so, dass deine Software die Sicherheit und Würde jetziger und künftiger Nutzer:innen wahrt. Diese Prämisse fordert eine Folgenabschätzung schon bei der Ideenfindung: Was passiert, wenn mein Produkt millionenfach eingesetzt wird? Welche Missbrauchspotentiale gibt es? Könnten Unbeteiligte zu Schaden kommen?
Konsequenz-Verantwortung bedeutet, man übernimmt moralisch Verantwortung nicht nur für das, was man beabsichtigt hat, sondern auch für das, was daraus resultiert. Eine Entwicklerin oder ein Entwickler mag zum Beispiel ein Feature in guter Absicht programmieren, doch wenn es eine Sicherheitslücke hat, die dann für Datendiebstahl genutzt wird, steht die Frage im Raum: Hätte er das vorhersehen und verhindern müssen? Die Verantwortbarkeit von Innovation bemisst sich daran, ob die Risiken in einem vertretbaren Verhältnis zum Nutzen stehen und ob die Akteur:innen alles Zumutbare getan haben, um diese Risiken zu minimieren.
Gerade in einer vernetzten Gesellschaft haben Softwarefehler oft eine weite Reichweite. Ein einzelnes skrupelloses Startup, das schnell etwas Unsicheres auf den Markt wirft, kann das Vertrauen in ganze Technologien erschüttern. Umgekehrt können verantwortungsvolle Entwickler:innen durch Weitsicht und Vorsorge großen Schaden vom Ökosystem abwenden.
Die Verantwortung gegenüber der Gesellschaft manifestiert sich auch in Konzepten wie Open-Source-Sicherheit, Transparenz und Accountability. Wenn Fehler passieren, erwartet die Gesellschaft zu Recht, dass Firmen und Entwickler:innen dazu stehen, umgehend handeln und aus ihnen lernen. Ethik in der Technik verlangt also nicht Fehlerlosigkeit (das wäre utopisch), sondern den aufrichtigen Willen, Schaden von anderen abzuhalten und im Zweifel die Notbremse zu ziehen, bevor man ein riskantes Produkt verantwortungslos verbreitet.
„Ethik by Design”: Wenn Technik moralische Werte integriert
Analog zum Begriff Security by Design hat sich der umfassendere Ansatz Ethik by Design herausgebildet. Dahinter steckt die Idee, dass nicht nur Sicherheitsaspekte, sondern auch allgemeine ethische Werte von Anfang an in die Gestaltung von Technologien einfließen sollen. In einer Zeit, in der Softwareentscheidungen soziale Prozesse und persönliche Schicksale beeinflussen (man denke an KI-Algorithmen, Social Media, autonome Systeme), wird klar: Entwickler:innen gestalten nicht nur Code, sie gestalten Lebensrealitäten mit.
Dieser Ansatz gewinnt an Bedeutung, weil er eine Antwort auf konkrete Probleme der Tech-Branche ist. Allzu oft wurde in der Vergangenheit zuerst innoviert und hinterher über Ethik nachgedacht – man nennt dies auch einen reaktiven Ansatz. Immer wieder zeigte sich jedoch, dass diese Reihenfolge mangelhaft ist. Ein Beispiel: Soziale Netzwerke führten Neuerungen ein (etwa Gesichtserkennung in Fotos), ohne Datenschutzbedenken vorab ernsthaft durchzuspielen. Das Ergebnis waren öffentliche Aufschreie und Vertrauensverluste, die man mit antizipativer Ethik vielleicht vermieden hätte.
Bei IoT-Geräten ist Ethik by Design praktisch deckungsgleich mit Security by Design. Die Ethik gebietet hier, die Nutzer:innen nicht durch Unsicherheit zu gefährden. Der Fall der Mirai-Malware demonstrierte, dass Hersteller, die keine hinreichenden Sicherheitsvorkehrungen eingebaut hatten, indirekt an einem massiven Internet-Ausfall mitverantwortlich wurden4. Hätten alle Hersteller von Anfang an zum Beispiel eindeutige individuelle Passwörter und Update-Mechanismen vorgesehen (security by default), wäre dieses Botnet kaum möglich gewesen. Ethik by Design würde also zum Beispiel lauten: Baue nur IoT-Geräte, die grundlegende Sicherheitsstandards erfüllen, um die Allgemeinheit nicht zu gefährden. Genauso gilt: Entwickle KI-Systeme so, dass sie keine unfairen Vorurteile verstärken etc.
Interessant ist, dass Ethik und Innovation sich nicht ausschließen, sondern langfristig sogar gegenseitig fördern. Wenn Nutzer:innen darauf vertrauen können, dass Produkte gewissenhaft entwickelt wurden, steigt die Akzeptanz neuer Technologien. Umgekehrt führen ethische Skandale (Datenlecks, Missbrauch von Facebook-Daten, unsichere Produkte) zu Regulierungen und Misstrauen, was die Innovationsfreiheit einschränkt. Es liegt also auch im Eigeninteresse der Tech-Industrie, Ethik by Design zu verfolgen. Wie ein aktueller IoT-Ethik-Bericht hervorhebt: Ignorieren der ethischen Implikationen könnte erheblichen gesellschaftlichen Schaden anrichten und das volle Potenzial der Technologie behindern5. Security by Design ist dabei ein Kernbestandteil: Genauso wie Privacy by Design verlangt, Datenschutz von Anfang an mitzudenken, verlangt Security/Ethik by Design, die Produktsicherheit als integralen Bestandteil der Innovation zu betrachten. Branchenexpert:innen betonen: „Security by design is as important as privacy by design” – robuste Schutzmaßnahmen müssen über den gesamten Entwicklungsprozess hinweg implementiert sein5. Das ist letztlich nichts anderes als angewandte Ethik.
Wandel der Entwicklungskultur
Die zunehmende Betonung von Ethik by Design spiegelt sich auch in einem Kulturwandel in der Softwareindustrie wider. Firmen ersetzen oder ergänzen das Motto „Move Fast and Break Things“ durch Leitsätze wie „Move Fast and Build Things (without breaking them)“ oder „Do the Right Thing“. Sicherheits- und Ethik-Teams werden früh in Projekte eingebunden, und es entstehen neue Rollen wie „Ethik-Ingenieur:in“. Auch Frameworks und Normen (zum Beispiel Ethik-Leitlinien für KI, ISO-Standards für IT-Security) geben Entwickler:innen Orientierung, wie sie ihre Verantwortung praktisch umsetzen können.
Fazit: Die Verantwortbarkeit von Innovation
Die philosophische Betrachtung zeigt: Innovation und Verantwortung dürfen kein Widerspruch sein. Verantwortbare Innovation bedeutet, Neues zu schaffen, ohne blind Risiken zu übergehen. Das Vorsorgeprinzip gibt hierbei die Richtung vor: Wenn große (mögliche) Schäden im Raum stehen, muss die Bremsbereitschaft vorhanden sein – kurz innehalten, Sicherheit einbauen, Expert:innen konsultieren – bevor man weiter Gas gibt.
Security by Design verkörpert diese Verantwortung, indem es Sicherheit und Ethik als Grundkomponenten des Entwicklungsprozesses definiert. „Move Fast and Break Things” dagegen, in Reinkultur gelebt, verkennt die moralische Rechenschaftspflicht: Wer wissentlich Bruch in Kauf nimmt, muss auch die Verantwortung für die Bruchstücke tragen. In Bereichen, wo nur Sachwerte betroffen sind, mag das tolerabel sein – dort, wo Menschen, ihre Daten, ihre Rechte oder ihr Wohlergehen auf dem Spiel stehen, ist eine solche Haltung ethisch fragwürdig.
Abschließend lassen sich drei Leitgedanken formulieren:
Verantwortung vor Geschwindigkeit
Entwickler:innen sollten sich fragen, ob sie mit den möglichen Folgen ihrer Software leben können. Im Zweifel hat die Pflicht, Schaden abzuwenden, Vorrang vor dem schnellstmöglichen Rollout. Hans Jonas’ Appell an die Verantwortung für die Zukunft erinnert uns daran, dass Technikgestaltung immer ethische Konsequenzen hat4.
Prävention ist besser als Reaktion
Sicherheitslücken und ethische Konflikte im Nachhinein zu fixen, ist oft teuer – manchmal unmöglich. Vorsorgliche Maßnahmen (Security/Ethik by Design) schützen nicht nur die Nutzer:innen, sondern am Ende auch die Innovator:innen selber, indem Vertrauen gewahrt bleibt5.
Innovation mit Wertekompass
Fortschritt lässt sich nachhaltig nur erzielen, wenn er auf einem Fundament von Verantwortung ruht. „Move Fast” bleibt wichtig – niemand will blinden Stillstand – aber das „Break Things” muss eingebremst werden durch ein „Care for Things”. Eine Kultur, die Fehler als Lernchance sieht, ist positiv; doch eine Kultur, die Rücksichtslosigkeit in Kauf nimmt, ist gefährlich.
In einer Welt voller Software stehen Entwickler:innen mehr denn je als Verantwortungsträger:innen in der Pflicht. Die philosophische Frage nach der Verantwortbarkeit von Innovation lässt sich beantworten mit: Innovation ist verantwortbar, wenn sie reflektiert, achtsam und mit Blick auf ihre Folgen betrieben wird. Security by Design und Ethik by Design sind Wege, dieser Verantwortung gerecht zu werden – damit wir Neues schaffen, ohne die Welt zu zerbrechen.3,4
