Robotic Governance

Robotic Governance (deutsch: Grundsätze der Robotik) bezeichnet den Ordnungsrahmen für die verantwortungsvolle Forschung, Entwicklung, die Implementierung, sowie den Umgang mit zunehmend intelligenteren und autonom handelnden Maschinen.

Dieser Artikel befindet sich derzeit in der Qualitätssicherung im WikiProjekt Elektrotechnik des Portal Elektrotechnik. Wenn du dich mit dem Thema auskennst, bist du herzlich eingeladen, dich an der Prüfung und möglichen Verbesserung des Artikels zu beteiligen. Der Meinungsaustausch dazu ist in der Diskussion (Artikel „Robotic Governance“ eintragen) zu finden.

Ähnlich den Ideen der Corporate Governance, Technology Governance oder IT-Governance, die den Ordnungsrahmen für die Führung von Unternehmen oder die Ausrichtung einer globalen IT-Infrastruktur beschreiben, sucht Robotic Governance die Auswirkung von Robotik, Automatisierungstechnologie und künstlicher Intelligenz auf die Gesellschaft in holistischer, globaler Betrachtung zu beschreiben, abzuwägen und Handlungsempfehlungen in Form eines Robot Manifesto auszusprechen. Dieses Vorhaben wird der gemeinnützigen, international agierenden Stiftung Robotic Governance Foundation verfolgt.

Robotic Governance verfolgt dabei einen diskursethischen Ansatz: Vertreter aller involvierten Interessensgruppen, u. a. Forschung, Gesellschaft, Religion, Politik, Industrie, Gewerkschaften, … werden einbezogen um gemeinsam einen Konsens zu erreichen. Dieser wird dann in Form von Regeln, dem sog. Robot Manifesto, veröffentlicht und bildet das Rahmenwerk für eine Selbstregulierung mit der Forschung, Entwicklung und Vermarktung von autonomen, K.I.-gestützten, automatisierten Systemen geregelt werden kann.

Ähnlich wie bei der Kinderarbeit und der nachhaltigen Fertigung von IT-Geräten basiert Selbstregulierung in dieser Form auf der Steigerung der Opportunitätskosten. Je mehr ein Thema in der öffentlichen Wahrnehmung präsent ist und je stärker die breite Öffentlichkeit auf einen verantwortungsvollen Umgang z. B. mit einer Technologie drängt, umso teurer wird es für ein Unternehmen, einen Missstand durch Marketingmaßnahmen zu kaschieren. Ab einem gewissen Zeitpunkt ist es rentabler für eine Firma oder ein Institut in nachhaltige Technologie zu investieren, da die Aufwände dafür niedriger werden als die Kompensation durch andere Maßnahmen.

Geschichte

Der Gedanke der Regulierung ethischen Normenbildung für intelligente Maschinen hat seine Wurzeln in der abstrakten Beschäftigung mit den Verhaltensnormen intelligenter Maschinen in der Science-Fiction Literatur. Noch älter ist die Auseinandersetzung mit der Ethik von, vom Menschen geschaffenen, intelligenten Wesen. Erste überlieferte Referenzen finden sich zum Beispiel bei Ovids Metamorphosen (um Christi Geburt) in der Erzählung Pygmalion, der jüdischen Golem-Mystik (12. Jh.) und der spätmittelalterlichen Idee des Homunkulus (lat. ‚Menschlein‘), die der Alchemie entspringt.

Im Kern setzen diese literarischen Werke mit der philosophischen Frage auseinander, was passiert wenn sich der Mensch anmaßt, gottähnlich eigenständig handelnde und ggf. mit Bewusstsein ausgestattete Wesen, Automaten, Roboter oder Androiden zu erschaffen. Während die älteren Werke vorrangig die Gefahr der Anmaßung des Schöpfungsaktes durch den Menschen moralisieren, hat Isaac Asimov mit seinen Robotergesetzen (englisch Three Laws of Robotics) erstmals die Notwendigkeit der Einschränkung und Normierung der Handlungsfreiheit dieser (damals fiktiven) Maschinen im Ansatz erkannt und formuliert.

Spätestens 1995 mit dem Einsatz von mit Luft-Boden-Raketen bewaffneten Drohnen wie der General Atomics MQ-1 zur gezielten Bekämpfung von Bodenzielen und den daraus resultierenden zivilen Kollateralschäden ist die Diskussion um die Notwendigkeit der internationalen Regulierung von ferngelenkten, programmierten oder selbsthandelnden Maschinen in die öffentliche Wahrnehmung gerückt. Mittlerweile betrifft diese Diskussion den gesamten Themenkomplex der programmierbaren, intelligenten und/oder autonomen Maschinen, Drohnen und Automatisierungstechnik in Kombination mit Big-Data und künstlicher Intelligenz. In jüngster Vergangenheit haben prominente Technologie- und Wissenschaftsvisionäre wie Stephen Hawking, Elon Musk und Bill Gates das Thema zum Gegenstand öffentlicher Debatten gemacht und in das allgemeine Bewusstsein gerückt. Mit der zunehmenden Verbreitung kleiner, preiswerter Systeme bei gewerblichen wie staatlichen Betreibern und bei Privatpersonen gewinnt das Thema der Regulierung von Robotik in allen gesellschaftlichen Dimensionen ein völlig neues Gewicht.

Einordnung des Ansatzes in die Wirtschafts- und Unternehmensethik

Die Idee, einer auf ethischen Grundlagen basierenden Beilegung von Konfliktsituationen zwischen Unternehmen und Stakeholdern lässt sich aus der deutschen Wirtschafts- und Unternehmensethik, die vor allem von Horst Steinmann, Peter Ulrich und Karl Homann geprägt wurde, sowie dem Konzept der Corporate Social Responsibility (CSR) ableiten. Die Wirtschaftsethik befasst sich vor allem mit der Frage nach gerechtem Wirtschaften und der Anwendung moralischer Maßstäbe sowie mit den moralischen Konsequenzen wirtschaftlicher Handlungen. Die Unternehmensethik befasst sich mit den Handlungen wirtschaftlicher Organisationen. Die Diskursethik basiert darauf, dass es in der Wirtschaftspraxis immer wieder zu Interessenkonflikten kommen kann, die durch einen friedlichen Diskurs beigelegt werden sollten. Die Auseinandersetzung mit Situationen, wo Moral und Wettbewerb in einem Widerspruch zueinander stehen, ist auch im Bereich der Roboterethik von hoher Bedeutung.

Im Sinne der Diskursethik besteht eine Notwendigkeit von begründeten materialen und prozessualen Normen. Materiale Normen können beispielsweise in Form von Verhaltenskodizes umgesetzt werden. Eine Ethikkommission wäre wiederum ein Beispiel für die Umsetzung prozessualer Normen. Diese Einschränkung sollte in erster Instanz im Rahmen einer Selbstverpflichtung stattfinden. Wenn eine Konfliktlösung auch dann nicht realisierbar ist, wird ein Eingreifen von Verbänden oder der Politik notwendig. Die Vorteile dieser Vorgehensweise liegen auf der Hand. Die betroffenen Stakeholder verfügen einerseits über eine besonders hohe Sachkompetenz die Problematik betreffend, andererseits kann man in der Praxis erkennen, dass die Gesetzgebung immer wieder an ihre Grenzen stößt. In der Unternehmenspraxis ist es oft schwer, Individuen zur Verantwortung zu ziehen und eine Kontrolle sowie Sanktionen sind aufwendig. Auch ist die Gesetzgebung eher träge und somit dem schneller voranschreitenden technischen Fortschritt und den vielen potentiellen Einzelkonflikten, die im Bereich von Robotik, Automatisierung und künstlicher Intelligenz auftreten können ggf. nicht immer gewachsen. Im Rahmen einer Selbstregulierung kann zudem schneller auf neu auftretende Probleme und Fragestellungen, beispielsweise aufgrund einer neu entwickelten Technologie, eingegangen werden.

Die Übernahme von Verantwortung für ein nachhaltiges Wirtschaften auf der Ebene von Unternehmen oder Individuen, in Form von CSR und Corporate Citizenship (CC) hat in den letzten Jahren immer mehr an Bedeutung gewonnen. Im Sinne der Generationengerechtigkeit und der Sicherung der Lebensqualität künftiger Generationen, engagieren sich viele Organisationen im sozialen und ökologischen Bereich. Unmoralisches Verhalten von Organisationen kann in Zeiten des Internets noch schneller an die Öffentlichkeit gelangen und einen Imageschaden verursachen. Zudem lässt sich eine Verunsicherung der Gesellschaft, die sich auch in der Science Fiction Literatur und Hollywood Blockbustern widerspiegelt, erkennen. Deshalb wird auch im Bereich der Roboterethik die Diskussion um einen verantwortungsvollen Umgang mit Technologien immer relevanter.

Robotic Governance schließt hier die Lücke, indem es durch einen Diskurs aller beteiligten Interessensgruppen Lösungen für Fragen erarbeitet, die im Zuge der neuen Entwicklungen wie auch der Verwendung bestehender Technologien entstehen können. Die Handlungsempfehlungen, die aufgrund dieser Anstrengungen entstehen, bieten Unternehmen die Möglichkeit, ihrer moralischen Verantwortung nachzukommen. Gleiches gilt auch für andere Organisationen und Interessensgruppen, beispielsweise aus der Forschung und Entwicklung. Die Robotic Governance Foundation schlägt dazu vor, generelle Strukturkonflikte in auf wirtschaftsethischer Ebene in einer im Stakeholderdialog erarbeiteten Rahmenordnung, dem sogenannten „Robot Manifesto“, zu regulieren. Zudem müssen die Interessensgruppen durch Information befähigt werden, situationsspezifische Konflikte im Einzelfall selbst lösen zu können.

Wissenschaftliche Betrachtung und Rezeption

Die erste wissenschaftliche Erwähnung des Begriffs Robotic Governance findet sich in einem Promotionsvorhaben (Eintragung in der Promotionsliste anfangs am Munich Center of Technology of Society - MCTS, dann TUM School of Education) an der Technischen Universität München betreut durch Klaus Mainzer. Seitdem war und ist das Thema Gegenstand etlicher wissenschaftlicher Workshops, Symposien und Konferenzen. Darunter u. a. das Symposium Sensor Technologies & the Human Experience 2015, das Robotic Governance Panel der We Robots 2015 Konferenz, eine Keynote der 10th IEEE International Conference on Self-Adaptive and Self-Organizing Systems (SASO), ein Full Day Workshop on Autonomous Technologies and their Societal Impact as part of the 2016 IEEE International Conference on Prognostics and Health Management (PHM’16), eine Keynote der 2016 IEEE International Conference on Cloud and Autonomic Computing (ICCAC), der FAS*W 2016: IEEE 1st International Workshops on Foundations and Applications of Self* Systems, der 2016 IEEE International Conference on Emerging Technologies and Innovative Business Practices for the Transformation of Societies (IEEE EmergiTech 2016) und der IEEE Global Humanitarian Technology Conference (GHTC 2016).

Seit 2015 widmet die IEEE im Rahmen der IEEE/RSJ International Conference on Intelligent Robots and Systems (IEEE IROS) dem Thema sogar ein eigenes Forum: Das erste und zweite „Annual IEEE IROS Futurist Forum“ brachte 2015 und 2016 weltweit anerkannte Experten aus verschiedene Fachrichtungen zusammen um über das Thema Zukunft der Robotik und die Notwendigkeit einer Regulierung zu diskutieren. 2016 wurde das Thema auch in einer eigenen Plenary Keynote Präsentation auf der IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2016) in Daejeon, Südkorea, behandelt.

Die Website der Robotic Governance Foundation verwaltet eine Sammlung an bzw. verlinkt auf Videostatements und Interviews mit international anerkannten Experten aus Forschung, Wirtschaft und Politik, die sich zu den Themen Robotic Governance, verantwortungsvollen Umgang mit Robotik, Automatisierung und Künstlicher Intelligenz sowie Selbstregulierung für die Welt der Robotic Natives äußern. So unterstrich unter anderem Max Levchin, Mitgründer und ehemaliger CTO von PayPal, in der Fragerunde seiner Keynote auf dem South by Southwest (SXSW) Festival 2016 in Austin die Notwendigkeit von Robotic Governance und verweist auf Äußerungen seines Freundes und Kollegen Elon Musk zu dem Thema. Gerd Hirzinger, früher Leiter des Instituts für Robotik und Mechatronik des Deutschen Zentrums für Luft- und Raumfahrt, zeigte in seiner Keynote auf dem ersten IROS Futurist Forum 2015 die Möglichkeit auf, dass Maschinen eines Tages so intelligent sein könnten, dass spezielle Handlungsweisen gezielt unterbunden werden müssten. Oussama Khatib, Director des Stanford Robotics Labs, warb auf dem gleichen Podium dafür, intelligente, autonome Maschinen so zu bauen, dass die Akzeptanz der Nutzer im Vordergrund stünde. Bernd Liepert, Präsident der euRobotics aisbl – der wichtigsten europäischen Vereinigung von Roboterforschern und -industrie, plädierte in seiner Plenary Keynote auf der IEEE IROS 2015 in Hamburg dafür, Robotic Governance weltweit zu etablieren und wünschte sich eine europäische Vorreiterrolle in dieser Debatte. Hiroshi Ishiguro, der Erfinder des Geminoid (eines menschenähnlichen Androiden) und Leiter des Intelligent Robotics Laboratory der Universität Ōsaka, zeigte im Rahmen der RoboBusiness Konferenz 2016 in Odense auf, dass sich der technologische Fortschritt nicht aufhalten lasse. Es sei daher umso nötiger, Verantwortung zu übernehmen und über Regulierung nachzudenken. Auf der gleichen Konferenz betonte Henrik I. Christensen, Autor der U.S. Robotics Roadmap des Weißen Hauses, die Tragweite von ethisch-moralischer Betrachtung der Robotik und dass Robotic Governance geeignet sei diesen Ordnungsrahmen zu schaffen.

Literatur

• Philipp Krohn: Streichel mich, sonst ersetz ich dich. In: Frankfurter Allgemeine Zeitung. Frankfurter Allgemeine Zeitung GmbH, Frankfurt 26. Februar 2016. 
• Andreas Knoll: Die künftige Entwicklung der Robotik. In: Markt & Technik. WEKA Fachmedien GmbH, Haar 17. Juni 2016 (elektroniknet.de). 

Weblinks

• Article: Elon Musk, Robots will take your jobs, government will have to pay your wage, CNBC
• Article: Elon Musk’s Advice for Surviving a Robot Takeover, Vanity Fair
• Article: Wenn Roboter töten,Horst Eidenmüller, Universität Oxford, SZ, 12. Juli 2016
• Article: Peter Asaro, Jason Millar, Kirsten Thomasen and David Post, WeRobot 2015 Panel 3: Robotics governance

Einzelnachweise

1. Dominik Bösl, Martina Bode: Technology Governance. In: IEEE (Hrsg.): 2016 IEEE International Conference on Emerging Technologies and Innovative Business Practices for the Transformation of Societies (EmergiTech). IEEE Xplore, Mauritius 2016, ISBN 978-1-5090-0706-6, S. 421 - 425, doi:10.1109/EmergiTech.2016.7737378. 
2. Peter Asaro, Jason Millar, Kristen Thomasen: We Robot 2015 Conference - Robotic Governance Panel. University of Washington School of Law, 10. April 2015, abgerufen am 7. März 2017 (englisch). 
3. Dominik Bösl, Bernd Liepert: 4 Robotic Revolutions - proposing a holistic phase model describing future disruptions in the evolution of robotics and automation and the rise of a new Generation ‘R’ of Robotic Natives. In: IEEE (Hrsg.): 2016 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS). IEEE Xplore, 2016, ISBN 978-1-5090-3762-9, ISSN 2153-0866, S. 1262 - 1267, doi:10.1109/IROS.2016.7759209. 
4. Robotic Governance Foundation: Robotic & A.I. Governance Foundation. In: Robotic & A.I. Governance. (roboticgovernance.com [abgerufen am 10. März 2017]). 
5. Rory Cellan-Jones: Stephen Hawking – will AI kill or save humankind? In: BBC News. 20. Oktober 2016 (bbc.com [abgerufen am 10. März 2017]). 
6. Rory Cellan-Jones: Stephen Hawking warns artificial intelligence could end mankind. In: BBC News. 2. Dezember 2014 (bbc.com [abgerufen am 10. März 2017]). 
7. Hakan Tanriverdi, New York: So will Elon Musk künstliche Intelligenz bändigen. In: sueddeutsche.de. ISSN 0174-4917 (sueddeutsche.de [abgerufen am 12. März 2017]). 
8. Maya Kosoff: Elon Musk’s Advice for Surviving a Robot Takeover. In: The Hive. (vanityfair.com [abgerufen am 12. März 2017]). 
9. Elon Musk: Wenn Roboter unsere Jobs übernehmen, muss ein bedingungsloses Grundeinkommen her. In: t3n News. ( [abgerufen am 12. März 2017]). 
10. Elon Musk: Become cyborgs or risk humans being turned into robots' pets. In: The Telegraph. (telegraph.co.uk [abgerufen am 12. März 2017]). 
11. Bill Gates: A Robot in Every Home. In: Scientific American. Band 296, Nr. 1, S. 58–65, doi:10.1038/scientificamerican0107-58 (scientificamerican.com [abgerufen am 12. März 2017]). 
12. Robots that take people’s jobs should pay taxes, says Bill Gates. In: The Telegraph. (telegraph.co.uk [abgerufen am 12. März 2017]). 
13. heise online: Bill Gates: Roboter werden Bestandteil des täglichen Lebens. Abgerufen am 12. März 2017 (deutsch). 
14. D.E. Engadget, Anton Waldt: Bill Gates: Roboter sollten Steuern zahlen. Abgerufen am 12. März 2017. 
15. H. Steinmann, A. Löhr: Unternehmensethik - Ein republikanisches Programm in der Kritik. In: S. Blasche, W. Köhler, P. Rohs (Hrsg.): Markt und Moral. Die Diskussion um die Unternehmensethik. 1194, S. 145–180. 
16. K. Homann: Marktwirtschaft und Unternehmensethik. In: S. Blasche, W. Köhler, P. Rohs (Hrsg.): Markt und Moral. Die Diskussion um die Unternehmensethik. 1994, S. 109–130. 
17. Kreikebaum, H.: Grundlagen der Unternehmensethik. Schäffer-Poeschel Verlag., 1996. 
18. G. Enderle: Wirtschaftsethik im Werden. Ansätze und Problembereiche der Wirtschaftsethik. Hrsg.: Akademie der Diözese Rottenburg – Stuttgart. 1988, S. 56. 
19. T. Rusche: Unternehmensethische Anmerkungen zu den Konzepten von Homann, Steinmann und Ulrich. In: T. Busch, D. Böhler, T. Rusche (Hrsg.): Wirtschaft und Ethik. Strategien contra Moral? Band 12. LIT Verlag, Münster 2004, S. 13–19. 
20. H. Steinmann, B Oppenrieder: Brauchen wir eine Unternehmensethik. In: Die Betriebswirtschaft. Band 45, Nr. 2, 1985, S. 170–183. 
21. H. Steinmann, A. Löhr: Grundlagen einer republikanischen Unternehmensethik. Ein Projekt zur theoretischen Stützung der Unternehmenspraxis. In: D. van Aaken, P. Schreck (Hrsg.): Theorien der Wirtschafts- und Unternehmensethik. Suhrkamp Verlag, 2015, S. 269–314. 
22. Elektronische Promotionsliste | DocGS - Onlineportal für Promovierende an der Technischen Universität München. Abgerufen am 14. März 2017. 
23. MCTS: Promotion. Abgerufen am 14. März 2017. 
24. TUM School of Education: Promotion. Abgerufen am 14. März 2017. 
25. Archiviert vom Original (nicht mehr online verfügbar) am 23. Oktober 2016; abgerufen am 14. März 2017.  Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/www.philwiss.edu.tum.de 
26. Professorenprofile: Mainzer_Klaus. Abgerufen am 14. März 2017. 
27. Archiviert vom Original (nicht mehr online verfügbar) am 15. März 2017; abgerufen am 14. März 2017.  Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/www.philwiss.edu.tum.de 
28. Wie verändert künstliche Wahrnehmung das menschliche Leben? (innovations-report.de [abgerufen am 14. März 2017]). 
29. Archiviert vom Original (nicht mehr online verfügbar) am 15. März 2017; abgerufen am 1. Februar 2021. 
30. WeRobot 2015 Panel 3: Robotics governance, with Peter Asaro, Jason Millar, Kirsten Thomasen and David Post | Robohub. Abgerufen am 14. März 2017 (amerikanisches Englisch). 
31. We Robot 2015 - 4th Annual Conference on Robotics, Law & Policy. University of Washington School of Law, abgerufen am 14. März 2017 (amerikanisches Englisch). 
32. SASO 2016 - 10th IEEE International Conference on Self-Adaptive and Self-Organizing Systems. IEEE, abgerufen am 14. März 2017 (englisch). 
33. Full Day Workshop on Autonomous Technologies and their Societal Impact at the 2016 IEEE International Conference on Prognostics and Health Management (PHM’16). Abgerufen am 14. März 2017. 
34. PHM 2016 - 2016 IEEE International Conference on Prognostics and Health Management. Abgerufen am 14. März 2017. 
35. 2016 IEEE International Conference on Cloud and Autonomic Computing (ICCAC). Abgerufen am 14. März 2017 (englisch). 
36. FAS*W 2016: IEEE 1st International Workshops on Foundations and Applications of Self* Systems. (PDF) IEEE, 16. Oktober 2016, abgerufen am 14. März 2017 (englisch). 
37. 2016 IEEE International Conference on Emerging Technologies and Innovative Business Practices for the Transformation of Societies (IEEE EmergiTech 2016). IEEE, abgerufen am 14. März 2017. 
38. IEEE, archiviert vom Original (nicht mehr online verfügbar) am 15. März 2017; abgerufen am 14. März 2017 (englisch).  Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/2017.ieeeghtc.org 
39. IEEE, 30. September 2015, archiviert vom Original (nicht mehr online verfügbar) am 15. März 2017; abgerufen am 21. Februar 2021 (englisch). 
40. 2nd IEEE IROS Futurist Forum - IEEE/RSJ International Conference on Intelligent Robots and Systems - IROS2016. IEEE, 11. Oktober 2016, abgerufen am 14. März 2017 (englisch). 
41. Plenaries and Keynotes at IROS2016 - IEEE/RSJ International Conference on Intelligent Robots and Systems. Abgerufen am 14. März 2017 (englisch). 
42. SXSW: Max Levchin | Unstoppable Trends that are Changing the World | SXSW Interactive 2016. 13. März 2016, abgerufen am 14. März 2017. 
43. Robotic Governance: 1st IEEE IROS Futurist Forum – Statement of Prof. Dr. Gerd Hirzinger (TU Munich & DLR). 12. Januar 2016, abgerufen am 14. März 2017. 
44. Robotic Governance: 1st IEEE IROS Futurist Forum - Statement of Prof. Dr. Oussama Khatib (Stanford University). 12. Januar 2016, abgerufen am 14. März 2017. 
45. Archiviert vom Original (nicht mehr online verfügbar) am 15. März 2017; abgerufen am 14. März 2017.  Info: Der Archivlink wurde automatisch eingesetzt und noch nicht geprüft. Bitte prüfe Original- und Archivlink gemäß Anleitung und entferne dann diesen Hinweis.@1@2Vorlage:Webachiv/IABot/roboproject.h2214467.stratoserver.net 
46. Robotic Governance: Dr. Bernd Liepert (President euRobotics aisbl) on Future of Robotics and Society. 12. Januar 2016, abgerufen am 14. März 2017. 
47. Robotic Governance: Interview: Hiroshi Ishiguro on Future of Robotics, Robotic Governance and the Impact on Society. 5. Februar 2017, abgerufen am 14. März 2017. 
48. Archiviert vom Original (nicht mehr online verfügbar) am 15. März 2017; abgerufen am 1. Februar 2021. 
49. Robotic Governance: Interview: Henrik I. Christensen on Future of Robotics, Impact on Society and Robotic Governance. 5. Februar 2017, abgerufen am 14. März 2017.