Warum ist KI so gefährlich?
Für Christoph Quarch ist Künstliche Intelligenz strukturell lebensfeindlich.
Eindringlicher könnte die Warnung nicht sein: Künstliche Intelligenz ist eine Bedrohung für die Menschheit, vergleichbar mit Pandemien und Atomkriegen. So die Ansicht führender Experten aus der IT-Branche, die in einer aktuellen Stellungnahme globale Anstrengungen fordern, um „das Risiko einer Vernichtung durch KI zu verringern". Zu den Unterzeichnern zählen OpenAI-Boss Sam Altman, Demis Hassabis, Chef der auf KI spezialisierten Google-Schwesterfirma DeepMind und Geoffrey Hinton, einer der führenden Forscher in dem Bereich. Warum ist KI so gefährlich? Und wie können wir den Gefahren begegnen? Darüber reden wir mit unserem Philosophen Christoph Quarch.
![© Alexandra Koch, pixabay.com](https://www.forum-csr.net/global/images/cms/Symbolbild/kuenstliche_intelligenz_ai-g4b7a9e6a5_1280_alexandra_koch_pixabay.png)
Herr Quarch, überrascht Sie die Stellungnahme der Tech-Experten?
Mich überrascht, dass sie erst jetzt kommt. Die Gefahren einer ungebremsten Entwicklung Künstlicher Intelligenz sind seit langem bekannt. Aufmerksame Beobachter wie der frühere FAZ-Herausgeber Frank Schirrmacher haben schon in den frühen 2010er Jahren vor den sozialen Implikationen der KI gewarnt. Und spätestens seit dem Film „Transcendence" aus dem Jahr 2014 konnte jeder ahnen, welche Risiken in dieser Technologie stecken. Aber wir wollten es nicht hören. Wir glaubten lieber denen, die uns eine leuchtende Zukunft mit selbstfahrenden Autos und smarten Kühlschränken verheißen.
Die Autoren der Stellungnahme warnen vor der Entwicklung KI-gestützter autonomer Waffen, systematischer Desinformation und immer gefährlicheren Cyberangriffen.
Das sind beängstigende Szenarien, letztlich aber nur die Symptome einer viel tiefer liegenden Problematik: Künstliche Intelligenz ist strukturell lebensfeindlich. Sie taugt für die Steuerung von Maschinen, aber sie simuliert in keiner Weise die Intelligenz lebendiger Organismen. Lebewesen erschließen sich die Welt fühlend, sie sind schöpferisch und interagieren fortwährend mit ihrer Umwelt. Und das alles vor dem Horizont eines jederzeit möglichen Todes. Auch die leistungsfähigsten Algorithmen werden nie verstehen, was Lebendigkeit ist. Sinnfragen und Ethik sind ihnen per se fremd.
Biologen und Evolutionsforscher sehen das anders. Sie behaupten, Lebewesen seien biochemische Algorithmen, die darauf programmiert sind, im Überlebenskampf zu bestehen.
Das ist einer der größten Irrtümer der Wissenschaftsgeschichte. Es lässt sich nachweisen, dass Darwin für seine Evolutionstheorie ein Modell aus der Volkswirtschaftslehre des viktorianischen Englands benutzte. Die lebendige Welt geriet so zu einem Schlachtfeld und der Sinn des Lebens zum Erfolg im Überlebenskampf. Überlebensstrategien im Krieg können algorithmisch berechnet werden. Nicht zufällig liegen die Ursprünge der KI im militärischen Bereich. Aber dabei geht es gerade nicht um die Entfaltung von Lebendigkeit und Lebenssinn, sondern um eine wert- und sinnfreie Effizienz beim Erreichen strategischer Ziele. KI ist die dafür erforderliche Rationalität in Perfektion. Mehr nicht.
Nun ist diese Technik einmal da. Niemand kann sie stoppen. Auch der Appell der Experten klingt einigermaßen hilflos. Was ist Ihrer Ansicht nach zu tun?
Als erstes muss die Häme aufhören, mit der selbst ernannte Optimisten alle Bedenken gegenüber KI abbügeln. Kritiker sind eben keine ewiggestrigen Maschinenstürmer, sondern denkende Menschen, die sich mit gutem Grund um unser aller Zukunft sorgen. Bedenklich ist in meinen Augen vor allem die religiöse Inbrunst, mit der KI-Enthusiasten an die Verheißungen ihrer Propheten glauben. Das zeigt das ganze Ausmaß der Verblendung. Es zeigt aber auch, wo man den Hebel ansetzen muss. Im Bereich des Religiösen. Hier schlummert die einzige Energie, die wir dem KI-Kult entgegensetzen können: eine Wiederentdeckung der Heiligkeit des Lebens. Aber das wird dauern. Bis wir soweit sind, bleibt uns nichts anderes, als das Recht zu bemühen. Es ist gut, dass die EU an einem AI-Act arbeitet, der die Anwendung von KI rechtlich reglementiert. Dieses Gesetzeswerk brauchen wir so schnell wie möglich.
![Der Philosoph Christoph Quarch schreibt regelmäßig für forum Nachhaltig Wirtschaften. © Christoph Quarch](https://www.forum-csr.net/global/images/cms/Portraits/christoph_quarch_2020.png)
Der Bestseller-Autor Christoph Quarch ist Philosoph aus Leidenschaft. Seit ihm als junger Mann ein Büchlein mit »Platons Meisterdialogen« in die Hand fiel, beseelt ihn eine glühende Liebe (philia) zur Weisheit (sophia), die er als Weg zu einem erfüllten und lebendigen Leben versteht. Als Autor, Publizist, Berater und Seminarleiter greift er auf die großen Werke der abendländischen Philosophen zurück, um diese in eine zeitgemäße Lebenskunst und Weltdeutung zu übersetzen."
In seinem neuen Buch "Begeistern! Wie Unternehmen über sich hinauswachsen" geht's um Fragen wie diese:
Wie kommt der Geist in unsere Unternehmen? – Durch Begeisterung! Und wie entsteht Begeisterung? Anders als die meisten glauben.
Als forum-Redakteur zeichnete Christoph Quarch verantwortlich für den Sonderteil „WIR - Menschen im Wandel".
Technik | Digitalisierung, 29.05.2023
![Cover des aktuellen Hefts](/global/images/cms/forum_Cover/forum_2024-04_cover-p.png)
Der Zauber des Wandels
forum 04/2024 ist erschienen
- Windkraft
- Zirkuläre Produkte
- Tax the Rich
- Green Events
- Petra Kelly
Kaufen...
Abonnieren...
04
SEP
2024
SEP
2024
StiftungsApéro SommerTour mit Engagement Global
Wie machst Du das eigentlich in Deiner Stiftung?
CH-Basel
Wie machst Du das eigentlich in Deiner Stiftung?
CH-Basel
07
SEP
2024
SEP
2024
Halbtages-Fahrradexkursion „Raus-aus-fossilen Energien“
Veranstaltungsreihe "Mein Klima - auf der Straße, im Grünen und ... in meinem Stadtteil!"
80539 München
Veranstaltungsreihe "Mein Klima - auf der Straße, im Grünen und ... in meinem Stadtteil!"
80539 München
30
OKT
2024
OKT
2024
Professionelle Klimabilanz, einfach selbst gemacht
![](https://www.forum-csr.net/global/images/Werbemittel/2024_01_Banner_ecozoom_forum_csr5.jpg)
Einfache Klimabilanzierung und glaubhafte Nachhaltigkeitskommunikation gemäß GHG-Protocol
Politik
![](/global/images/cms/Symbolbild/geld_throughts-551344_1920_geralt_pixabay.png)
Christoph Quarch wünscht sich in der Haushaltsdebatte einen neuen Blickwinkel
Jetzt auf forum:
Achtsamkeit, Fürsorge, Krisenintervention
Die Arbeitsumgebung gesund gestalten
Ernährung als Gestaltungsbereich des Betrieblichen Gesundheitsmanagements
Betriebliches Gesundheitsmanagement und Klimaschutz:
Trends im Betrieblichen Gesundheitsmanagement