„SocAIty“-Studie 2021: Die wichtigsten Erkenntnisse

Recht: Im evolutionären Wechselspiel mit dem Fortschritt
Die technischen Entwicklungen sind dem rechtlichen Rahmen oftmals einige Schritte voraus. Dieser Vorsprung löst nicht selten Verunsicherung aus. Das betrifft auch das autonome Fahren, obwohl selbstfahrende Autos und Busse heute kaum im öffentlichen Straßenverkehr unterwegs sind. Die Systeme und Fahrzeuge befinden sich entweder im Prototypenstatus oder dürfen nur unter bestimmten Voraussetzungen eigenständig fahren. Die Technologie ist also noch nicht auf dem Stand, der in der Theorie diskutiert wird. Daher stehen Rechtssysteme weltweit vor der Herausforderung, in Zukunftsszenarien zu denken. Präzedenzfälle werden erst im Laufe der nächsten Jahre folgen. Aus Sicht vieler Expert_innen, die in der Studie zu Wort kommen, geht es bei der Rechtssetzung für das autonome Fahren jetzt vorrangig darum, eine Technologie im großen Maßstab statt einzelne Fahrzeuge oder Systeme zu regulieren.

Dafür braucht es einen neuen, evolutionären Ansatz der Rechtssetzung und Gesetzgebung. Dieser muss proaktiv ein technologieoffenes Verständnis bei Gesetzgebern fordern und durch den kontinuierlichen Austausch mit Wirtschaft und Forschung langfristig gesichert werden. Vorteile: Die Gesetzgebung reguliert nicht an Entwicklungen und am Markt vorbei, was wiederum die Innovations- und Investitionsbereitschaft der Industrie fördert und Vertrauen bei den Nutzer_innen schafft. Eine mögliche Herangehensweise wäre der sogenannte Erprobungsmechanismus: Dieser geht zunächst von einem „unperfekten Status quo“ aus. In einem transparenten Prozess wird stattdessen bestmögliche Sicherheit und Akzeptanz angestrebt.

Die Studie thematisiert zudem die zentrale Haftungsfrage: Wer haftet im Fall eines Unfalls, in den ein autonomes Fahrzeug verwickelt ist? Sind es die Fahrer_innen, die Halter_innen oder doch die Hersteller? Für die meisten Expert_innen ist es wahrscheinlich, dass auch in Zukunft jede Person, die sich als Fahrer_in in ein autonomes Fahrzeug setzt oder dessen Halter_in ist, eine hohe Verantwortung trägt und für die eigenen Fehler haften muss. Dies ist auch wichtig für die Industrie.
„Am Ende darf die Haftung auch nicht einseitig zu Lasten einer Partei gehen. Es muss für alle Seiten Anreize geben, sich sorgfältig zu verhalten. Dies schafft auch für die Hersteller die Motivation, weiter zu forschen und regelmäßig neue Innovationen in den Markt zu bringen.“
Die Industrie ist auch an einer weltweiten Harmonisierung der Regulierungsrahmen interessiert. Schließlich werden sowohl Pkw als auch andere Systeme weltweit verkauft. „Wir brauchen einen harmonisierten europäischen Rechtsrahmen, was die Genehmigung dieser Fahrzeuge anbelangt. Da kommen wir mit nationalen Flickenteppichen nicht weit“, sagt Richard Goebelt, Mitglied der Geschäftsleitung & Bereichsleiter Fahrzeug / Mobilität, Verband der TÜV e.V. und Automotive Engineer / Advisor, Sandy Munro von Munro & Associates ergänzt: „Für den Moment wäre ich schon froh, wenn man ein einheitliches Regelungsfeld für Europa hätte. Das ist auch ein großer Markt und dann hat man Verhandlungsmasse, um mit anderen Ländern zu sprechen und zu sagen: Wenn ihr unsere Fahrzeuge und Regelungen anerkennt, dann erkennen wir auch eure an.“ In Bezug auf die Regulierung und Rechtsprechung ist der Studie zufolge Deutschland ein positives Beispiel, da hier ein Rechtsrahmen geschaffen wurde, der international als Vorbild gelten kann.

Ethik: Vertrauensbeziehung zwischen Mensch und Maschine
Wie schnell das autonome Fahren flächendeckend im Alltag ankommt, ist vor allem von der gesellschaftlichen Akzeptanz abhängig. Dazu gilt es laut Expert_innen noch viele Herausforderungen zu meistern, wobei ethische und moralische Aspekte eine wichtige Rolle spielen werden. Insgesamt besteht eine gesellschaftliche Tendenz, beim autonomen Fahren eine „Null-Fehler-Toleranz“ einzufordern. Ein zentraler Aspekt sei zudem die Auseinandersetzung mit dem sogenannten „moralischen Dilemma“. Übertragen auf das autonome Fahren sprechen wir dabei von Entscheidungsszenarien, die zwar mehrere Möglichkeiten bieten, jedoch stets zu einem unerwünschten Ergebnis führen. Ein häufig angeführtes Beispiel ist das eines hypothetischen Ausweichmanövers, bei dem – egal, wohin man ausweicht – Menschen verletzt oder gar getötet werden. Daraus resultierend stellen sich hypothetische Fragen, wie: Wer hat es mehr verdient, dass man ausweicht? Welches Leben ist mehr wert? Mit diesen Fragestellungen hat sich bereits 2017 eine durch das Bundesverkehrsministerium eingesetzte Ethik-Kommission beschäftigt.

Die Diskussion um diese Frage wird oftmals emotional geführt und aus Sicht einiger Expert_innen ideologisiert. „Wen sollen wir zuerst umfahren? Wenn wir weiterhin so die Agenda setzen, kommen wir nicht voran“, gibt Christoph Lütge, Direktor des Instituts für Ethik in der Künstlichen Intelligenz der TU München, zu bedenken. „Wir können diese Dilemmas nicht lösen, wir werden auch keinen perfekten Ansatz dafür haben.“ Die Mehrzahl der Expert_innen empfiehlt daher einen Wandel weg von theoretischen Diskussionen über unlösbare moralische Fragestellungen hin zu mehr Lösungsorientierung bei der Unfallvermeidung. Hier kommt den Herstellern und der Entwicklung von Sicherheitstechnologien eine entscheidende Rolle zu. Und um den Diskurs weiter zu formen und gesellschaftliche Akzeptanz zu schaffen, befürworten die meisten Expert_innen klare Richtlinien und Prinzipien, die von Gremien beziehungsweise gesellschaftlichen Vertretern formuliert und allgemein akzeptiert sind und kontinuierlich in der Praxis weiterentwickelt werden.
Daten: Im Spannungsfeld zwischen Leistungsfähigkeit und Schutz von Daten beim autonomen Fahren
In kaum einem anderen Bereich werden in Zukunft so große Datenmengen gesammelt und verarbeitet werden wie beim autonomen Fahren. Dazu gehören vor allem Bilddaten der Umgebung und sowohl Bewegungsdaten des eigenen Fahrzeugs als auch die von anderen Verkehrsteilnehmer_innen. Das Sammeln der Daten wirft Fragen und Unsicherheiten auf: Sind Fahrer_innen von morgen „gläserne Passagiere“ oder können sie über die Nutzung ihrer Daten entscheiden? Bei öffentlichen autonomen Services der nahen Zukunft, wie Shuttle-Services und Flotten, sehen Expert_innen das Eigentum oder zumindest das überwiegende Nutzungsrecht der Daten klar bei den Serviceprovidern. Auch bei „Robotaxis“ werden Betreiber und Anbieter die Daten für die eigenen Zwecke nutzen. Schließlich müssen diese als Flottenbetreiber den Service leisten sowie im eigenen Interesse verbessern, und dazu brauchen sie Daten. Hinzu kommt die Infrastruktur für die Datenerfassung und -analyse.
Manche Expert_innen halten jedoch ein Modell für denkbar, bei dem die Daten den Nutzer_innen gehören. Diese würden dann den Herstellern und Betreibern die Nutzung zu bestimmten Zwecken erlauben, ähnlich wie dies aktuell bei Smartphones geschieht. Ziel sollte es sein, Nutzer_innen eine gewisse Mündigkeit in Bezug auf die eigenen Daten zuzusprechen. Einige Expert_innen betonen, dass vermeintlich klar geltende rechtliche Rahmenbedingungen und Gesetze oftmals durch einen „Klick“ zur Annahme von Allgemeinen Geschäftsbedingungen ausgehebelt werden.

Der effektive Schutz von personenbezogenen Daten und der Privatsphäre von Nutzer_innen ist eines der zentralen Themen bezüglich der Gesellschaftsfähigkeit des autonomen Fahrens. Denn die digitale und vernetzte Infrastruktur bietet auch Angriffsflächen zur Manipulation, beispielsweise durch Hacker. Deshalb ist es wichtig, frühzeitig entsprechende Sicherheitsstandards zu entwickeln, um das Vertrauen der Nutzer_innen nicht zu gefährden. Zum Schutz muss es Anonymisierungs- und Verschlüsselungstechniken für die Daten geben. Autohersteller und Mobilitätsanbieter müssen zudem effiziente Cyber Security-Konzepte entwickeln und umsetzen. Laut den Expert_innen sind die Hersteller letztendlich gefragt, Lösungen zum Datenschutz und zur Datensicherheit bei der Entwicklung von autonomen Fahrzeugen von Beginn an zu berücksichtigen und zu integrieren.
Die Expert_innen sind sich einig, dass für eine schnelle und umfassende Implementierung von und Durchdringung mit autonomen Fahrzeugen eine entsprechende digitale Infrastruktur vorhanden sein muss. Sie empfehlen deshalb eine schnellstmögliche Etablierung und Umsetzung eines 5G-Standards auf internationaler Ebene. Ein weiterer Grundstein für eine autonome Zukunft ist ein umfangreiches Cloud Edge Computing beziehungsweise Onboard Edge Computing. Neben dem enormen Potenzial für eine effizientere und somit auch ökologisch nachhaltigere Zukunft können vernetzte und datengetriebene Mobilitätskonzepte auch einen enormen sozialen „Impact“ haben. Dazu gehört die Schaffung neuer Infrastrukturen und Services, die sich an menschlichen Bedürfnissen orientieren. Im Idealfall würde das zu einer neuen Form von inklusiver und sozialer Mobilität führen. So könnten zum Beispiel Menschen ohne Führerschein oder Personen, denen es aus gesundheitlichen Gründen nicht möglich ist, ein Fahrzeug eigenständig zu führen, mobil sein. Damit dies Realität werden kann, wünschen sich die Expert_innen visionäre Vordenker_innen in Wirtschaft, Wissenschaft und Politik sowie ein gesellschaftliches Vertrauen in die Wirkungskraft und Fähigkeit von Daten.
Download
SocAIty Studie
74 Seiten, DE
8,9 MB