Staffel 2, Folge 3: KI und Ethik

00:00:12: Willkommen bei Allmacht, Bamberger Gespräche über Gott und die Welt.

00:00:17: In dieser Staffel fragen wir nach der Beziehung zwischen KI und Mensch.

00:00:21: Künstliche Intelligenz ist längst mehr als nur ein technisches Werkzeug – sie greift tief in unser Leben, in unsere Gesellschaft und möglicherweise sogar in unseren Glauben ein!

00:00:30: In drei neuen Folgen stellen wir uns großen ethischen und sozialen Fragen, Was bedeutet es für uns als Menschen, wenn nun soziale Roboter plötzlich in der Pflege in Liebe und Sexualität eine Rolle spielen?

00:00:44: Wie reagiert die Kirche auf diese Entwicklungen.

00:00:46: Und was wäre, wenn die KI auch die Beichte abnehmen würde?

00:00:50: Begleitet uns auf der Suche nach Antworten zu KI im Spannungsfeld von Theologie,

00:00:54: Ethik

00:00:55: und dem, was uns menschlich

00:00:56: macht!

00:01:01: und

00:01:06: Claudia Allraum, Referentin für Erwachsenenbildung und Historikerin.

00:01:31: ist wirklich unverstellbar.

00:01:34: Ich glaube, es ist an der Zeit nochmal ganz bewusst über die ethischen Dimensionen von KI zu sprechen.

00:01:40: Ja da gebe ich dir absolut recht.

00:01:41: ja vielleicht starten wir heute wieder mit einem kleinen KI-Update.

00:01:45: Die Entwicklung geht ja rasend schnell voran also die Gesetzgebung kommt kaum hinterher.

00:01:50: du hast gerade die digitale Gewalt angesprochen und gleichzeitig sehen wie immer mehr konkrete Auswirkungen auf unsere Gesellschaft den Arbeitsmarkt und sogar auch unser Menschenbild oder zwischen menschliche Beziehungen.

00:02:03: Vielleicht mag es ein kleines Paradoxon sein mit Blick auf KI und Kirche.

00:02:07: Aber stellt euch vor, der heilige Stuhl hat jetzt erst im März XXV von den Vereinten Nationen in New York den Rassismus in allen Formeln erneut voll entschieden und verurteilt.

00:02:17: vor allem die Vereintene Nationen In New York da verwies sieht ganze Delegation des Vatikans eben auch die neuen Herausforderungen, vor allem im digitalen Raum.

00:02:26: Also natürlich ging es jetzt bei der Tagung auch sehr stark um das Thema Rassenhass und Diskriminierung.

00:02:30: aber das finde ich spannend dass da der Vatikan schon soweit vorangeht als in Anführungszeichmann.

00:02:37: des Gewissen erwiesen mich darauf hin dass in der Gegenwart Diskriminierungen auf unterschiedlichen Ebenen eben auftreten.

00:02:44: jetzt im Bereich der Technisierung Genau da gibt es eben jetzt schon subtilere Mechanismen, die sofort nicht erkannt werden und eben zur Diskriminierung ja auch manchmal auch Hass oder Urteilsmeinung eben auch einwirken.

00:03:01: Vor allem das Thema hat verschiedene Wirkformen.

00:03:04: Ich finde es ganz spannend dass da der Vatikan schon eben auch anregt sich im Umgang mit KI jetzt schon weiterzubilden auch persönlich privat damit man eben gewisse Mechanisminnen und Gefahren erkennt.

00:03:15: Ja, das finde ich hochinteressant.

00:03:17: Dass der Vatikan sich jetzt wieder mal zu diesem Thema einschaltet.

00:03:21: Man kann ja nicht sagen dass die Beziehung zwischen katholischer Kirche und Fortschritt immer eine einfache war.

00:03:29: in der Geschichte rangen die Kirche ja häufig mit dem Thema Fortsschritt neue wissenschaftliche Erkenntnisse und Gedanken, neue gesellschaftliche soziale Bewegungen.

00:03:39: Manchmal war die Kirsche dabei Fortschutztreiberin tatsächlich vorangebracht.

00:03:46: Manchmal wollte sie aber auch den Fortschritt verhindern, das stellt sich mir die Frage.

00:03:50: wenn ich zum Beispiel davon ausgehe dass Gott in allen Dingen ist bzw.

00:03:55: Ich ihn in allen Dinge suchen und finden kann so hat es ja zb Ignatius von Loyola im sechzehn Jahrhundert formuliert Ist dann technischer Fortsschritt eigentlich auch?

00:04:05: Gott gewollt oder kann nicht darin Gott finden?

00:04:08: Oder ist dieser technische Fortschnitt viel mehr ein Ausdruck von menschlicher Freiheit?

00:04:13: ganz spannende frage also.

00:04:15: ich denke irgendwie ist für mich beides.

00:04:16: was dann?

00:04:17: aber stell euch mal vor es gab sogar noch von neunzehn bis neunzenundsechzig also kurz vor dem zweiten vatikanischen konzil den sogenannten anti modernisten eid.

00:04:27: also jeder der erkläriker werden wollte musste diesen eid schwören dass er also so gewissen technischen fortschritten absagt also nicht ins kino geht et cetera pp.

00:04:39: um eben da der moderne und Veränderungen, die dadurch entstehen vielleicht auch im eigenen privaten Leben eben auch abzusagen und da sich stärker natürlich zu konzentrieren auf das was Glaube was unser Leben mit Gott eben auch ausmacht.

00:04:55: Also finde ich auch total strange eigentlich, könnte ich mir heute noch gar nicht mehr vorstellen aber es war damals wirklich Thema weil sich so viel verändert hat in dieser Zeit und da die Kirche klar eher eine bremserene Mannerin war find' ich jetzt irgendwie Ja, also die Frage ist ja nicht mehr moderne Jahre rein.

00:05:16: Sondern wie gehen wir verantwortlich damit um?

00:05:18: Und da finde ich jetzt den Ansatz eigentlich dass der Vatikan sich auch schon im Jahr zwanzig sehr öffentlich mit dem Romkoll vielleicht kommen später noch mal drauf auch schon zu der Thematik KI und Technik und das es immer alles schneller geht schon einmal gemeldet hat.

00:05:34: Also geben wir quasi mal weg von der Frage Gott gewollt sondern wenn wir wieder auf Ignatius von Loyola kommen Ja Gott in allen Dingen suchen soll, müssen wir dann KI quasi eher so verwenden dass wir achtsam damit sind.

00:05:47: Dass wir KI zum Wohl der Mensch und der Schöpfung einsetzen und eben nicht so das sie da Menschen würde entgegensteht?

00:05:53: Absolut!

00:05:54: Also es wird unheimlich wichtig sein und da finde ich hat Kirche mit ihrer Reicheiligkeit des Glaubens und ihre Verlautbarungen die sie hat aus gewissen Zeiten definitiv was zu sagen und ist Anwälte der Menschheit oder der Menschenwürde.

00:06:08: Gerd, wir haben vorhin ja schon im KI-Update gehört dass sich der Vatikan gerade zum Thema KI und Rassismus positioniert hat.

00:06:14: Gibt es denn da noch weitere Initiativen von der katholischen Kirche zum Thema KI bzw.

00:06:19: dem ethischen Einsatz von KI?

00:06:20: Gibt's denn schon Beispiele, wo die Kirche ihrer Stimme auch laut erhebt oder vielleicht auch an die Menschen rantrittt, die auch in der Entwicklung von KI beteiligt sind?

00:06:31: Ja durchaus und du wirst lachen.

00:06:32: aber Kirche beziehungsweise der Vatikan kann manchmal auch ganz schön überraschen.

00:06:36: also so aus den zwanzig Jahre zb viele Wichtige Wirtschaftsleute, die in dem Bereich KI unterwegs sind eingeladen zum sogenannten Rome Call of AI Ethics.

00:06:46: Also das meinte dass da am Vatikan viele Tech-Unternehmen und Organisationen zusammen kamen um eben über die Verantwortung, die besondere Verantwortung im Umgang mit KI und auch mit den Menschen sozusagen ins Gespräch zu kommen.

00:07:01: Transparenz, Fairness, Schutz der Menschen würde... Das waren alles wichtige Themen, die ja auch die großen Tech-Unternehmen oftmals erkennen.

00:07:08: also das interessante Fortschritt und die weit hinterher hinkende rechtliche Dimension beziehungsweise auch edische Dimension durchaus eine Verantwortung mit sich bringt.

00:07:21: Und das fand ich spannend.

00:07:22: Ganz interessantes Dokument auch rausgekommen, plus auch aus der Glaubenskongregation ja eben auch das Schreiben, dass glaube ich vor eineinhalb Jahren oder knapp zwei Jahre eben auch herauskam mit Antigua et Nova wo sich Kirch auch positioniert hat zum Thema KI und der Mensch.

00:07:40: Du hast ja diesen Rome-Call vor AI FX angesprochen, das ist jetzt erstmal so eine Art Leitlinie Selbstverpflichtung vielleicht auch für Techunternehmen wenn ich es richtig verstanden habe.

00:07:52: aber wie sieht es denn dann in der konkreten Umsetzung aus?

00:07:56: Also wie würde ich merken ob bei NRKI Anwendungen solche ethischen Prinzipien eingehalten werden?

00:08:03: Ja, und das ist nämlich genau der Punkt wo es spannend wird.

00:08:07: Also Stichwort Transparenz auch.

00:08:09: Wo krieg ich überhaupt definitiv mit?

00:08:12: dass KI über mich entschieden hat.

00:08:14: Zumal ja KI immer mehr auch in persönliche Dinge eindringen, zu dringend vermarkten also nicht mehr eine brose Suchmaschine sondern auch ins private Leben.

00:08:21: ein Beispiel automatisierte Entscheidungen.

00:08:23: zum Beispiel wenn eine KI darüber entscheidet ob jemand einen Kredit bekommt oder eine Stelle zum Beispiel dann muss es klar sein nach welchen Kriterien ist das passiert Und was ja immer noch eine Blackbox auch ist, wie KI überhaupt zu Entscheidungen kommt.

00:08:38: Also Stichwort Algorithmus also durch welche Prozesse eine KI fährt um das Ergebnis zu machen?

00:08:43: Das ist eine absolute Blackbox.

00:08:44: Medizin ist es gleiche.

00:08:46: viele Diagnosen können natürlich durch KI unterstützt werden.

00:08:49: Das ist auch in der Medizin etwas Bekanntes mit Maschinen zu arbeiten zur Diagnostik aber es muss Transparenol überprüfbar sein und vor allem Es muss immer auch bei solchen wichtigen Dingen der Mensch der Letztentscheidende sein.

00:09:03: Ja, ich glaube wenn man das ernst nimmt dann muss man eben so wie du gerade gesagt hast Gerd eben vor allem auch auf die Menschen schauen und dabei insbesondere auch auf den Menschen die da oft unsichtbar hinter diesen Technologien stehen.

00:09:17: Beispiel dafür sind die sogenannten DataWorker und DataWorkers sind eben sehr zentral für das Training von künstlichen Intelligenzen.

00:09:25: Und ja, weltweit arbeiten wirklich viele Millionen Menschen in dem Bereich leider viele davon im globalen Süden unterwirklich bekehrsten Bedingungen und mit sehr niedrigen Löhnen.

00:09:37: Und gleichzeitig ist die Branche leider wenig transparent, weil große Tech-Unternehmen da ja oft mit Subunternehmen zum Beispiel arbeiten und genau dementsprechend fehlt es dann vielen Data-Workern auch an fairer Bezahlung und arbeitsrechtlichem Schutz.

00:09:53: Das ist eigentlich eine interessante Analogie.

00:09:54: wieder zur Industrialisierung.

00:09:57: aber Ich würde nun mal gerne auf die Arbeit von diesen Data-Workern eingehen, weil ich tatsächlich wahrscheinlich wie viele andere sich gar nicht so gut mit dem Thema auskenne.

00:10:05: Was machen diese Data- Worker dann genau in ihrer Arbeit?

00:10:09: Ja, das ist ganz unterschiedlich.

00:10:10: Also es manche labeln einfach Bilder also markieren.

00:10:13: dann zum Beispiel wenn sie so eine KI trainieren ja das ist jetzt ein Auto oder das Mensch.

00:10:18: ich habe tatsächlich auch selber ne Freundin die das nebenbei als gig macht aber nicht zu so ganz prekären Bedingungen sondern die sagt dass eigentlich relativ einfacher das Geld, das man nebenbei so machen kann.

00:10:31: Aber es gibt auch andere Fälle wo Menschen zum Beispiel Inhalte prüfen müssen die Gewaltvideos oder problematische Post beinhalten.

00:10:42: und wenn ich mir vorstelle dass sich acht Stunden am Tag da sitze und mir irgendwelche gewaltvollen oder diskriminierenden Inhalter anschauen muss damit die KI dann später lernt dann ist es natürlich äußerst problematisch und sehr psychisch belastend.

00:10:56: Also das heißt hinter dieser intelligenten Technologie steckt dann ganz viel menschliche, oft unsichtbare auch oft schlecht bezahlte Arbeit aber eben auch so emotionale psychischbelastende Arbeit?

00:11:10: Ja genau!

00:11:11: Und wenn wir über KI sprechen oder auch KI anwenden, dann finde ich dürfen wird diese Menschen und dass alles was dahintersteckt natürlich auch nicht vergessen.

00:11:19: ja

00:11:20: Genau da schließt sie eigentlich für mich auch der Kreis, denn KI muss wirklich den Gemeinwohl dienen und sie muss auch für gerechte Arbeitsbedingungen sorgen, nämlich entlang der gesamten Wertschöpfungskette.

00:11:30: Und ich glaube das wird – das muss viel deutlicher werden – der Auftrag sein für viele wirtschaftsverantwortliche und vor allem auch die Politik, die sich ja der Wohlfahrtspflege des Landes verschrieben hat dass jetzt schon damit begonnen wird Angebote der Weiterbildung für Berufe zu etablieren, die besonders vom Ersatz durch KI betroffen sind und da gibt es ja echt einige.

00:11:51: Ja, wir haben jetzt schon zahlreiche Facetten rund um den ethischen Einsatz von künstlicher Intelligenz oder vielleicht so auch ethische Lehrstellen gehört.

00:12:00: Das ist tatsächlich hochkomplex!

00:12:02: Auf der einen Seite stehen da die Chancen, die sich durch KI für den Menschen ergeben und auf der anderen Seite – ja, da gibt es auch diese ganzen Schattenseiten über, die wir schon gesprochen haben – und die uns in der alltäglichen Nutzung von KI sicherlich gar nicht immer so bewusst sind?

00:12:16: Ja, genau.

00:12:17: Und vieles haben wir eigentlich auch noch gar nicht angesprochen.

00:12:19: also ein weiterer Punkt ist zum Beispiel Nachhaltigkeit und Ressourcen.

00:12:24: so KI kann einerseits helfen die Schöpfung zu bewahren etwa bei der Optimierung von Energiesystemen oder beim Überwachen von Waldbränden.

00:12:31: da gibt es ganz spannende Sachen und gleichzeitig verbraucht sie aber beispielsweise beim Trainieren der Lernmodelle eben enorme Mengen an Energie.

00:12:40: Es gibt da verschiedene Versuche das zu veran zu schaulichen.

00:12:44: Zum Beispiel, dass es generieren von Bildern genauso viel Strom braucht wie das Laden vom Smartphone.

00:12:50: oder wenn man ein Bild generiert dann könnte man sich auch drei Eier kochen oder sowas.

00:12:55: also da gibt's ganz verschiedene Versuche dem Verbraucherinnen und Verbrauchern auch ein bisschen zu visualisieren.

00:13:02: Und KI-Systeme bekommen der aktuell sozusagen einen Vertrauensvorschuss.

00:13:06: Also sind einerseits Teil des Problems und gleichzeitig hofft man aber, dass man durch sie auch wieder selbst lösen kann.

00:13:14: Das

00:13:14: heißt doch wirklich, man sollte gut überlegen ob ich jede Frage unbedingt KI nutzen sollte oder an KI stellen sollte?

00:13:22: Ja bei mir ist die Euphorie so ein bisschen abgeflacht also in der Auseinandersetzung mit der KI.

00:13:27: es sind mir die vielen Nachteile natürlich im Gedächtnis auch schon sehr präsent.

00:13:32: manchmal denke ich mir dann schon ja muss sich das jetzt von der KI beantworten lassen.

00:13:36: oder wäre es nicht auch in Ordnung dass einfach selbst mal kurz nachzuschlagen kurz nachzudenken und mein eigenes Gehirn anzuschalten.

00:13:43: Ja

00:13:43: genau, dann nochmal konkret für mich klar zu machen wann frage ich die KI?

00:13:46: oder wenn nicht e vorm Rechnersitz gebe ich es klassisch in eine Suchmaschine ein.

00:13:51: da gibt's übrigens auch nachhaltigere Modelle.

00:13:53: das ist jetzt keine bezahlte Werbung aber durchaus eine Empfehlung.

00:13:56: da gibts zum Beispiel die deutsche Suchmaschine Ecosia die auf nachhaltigere Modelle sitzt im Umgang mit dem Geld, das sie da einnimmt und dann beispielsweise wieder in so Aufforschungsprojekte steckt.

00:14:12: Das könnt ihr gerne nochmal nachlesen.

00:14:14: wir verlinken es euch an den Shownauts.

00:14:16: Vor allem ist es ja echt ein schöner Schöpfungsgedanke.

00:14:18: auch also viele bemühen sich um die Bewahrung der Schöpfungen damit nachfolgende Generationen gut noch leben können.

00:14:25: Und auf der anderen Seite würde man es subtil, vielleicht auch nicht wissend manchmal Ressourcen eben auch rausschmeißen durch eine überbordende Nutzung von KI und also auch manchmal zum langweiligen Zweck oder so.

00:14:37: Also mal zur Behaltung oder sowas.

00:14:39: Und habe mich schöner Gedanke auch.

00:14:40: ich glaube das macht auch wieder nochmal deutlich wie wichtig ist sich in diesem Bereich zu bilden.

00:14:45: denn Laura das mit den Strom- und Ei wusste ich jetzt noch gar nicht.

00:14:48: Ich wusste dass viel verbraucht oder dass eine Anfrage Schnapsglas Wasser verbraucht an Ressourcen, weil die Prozessoren natürlich gekühlt werden müssen.

00:14:57: Aber das wusste ich jetzt auch noch nicht.

00:14:59: Vielleicht ist es auch manchmal echt eine absolute Bequemlichkeit, die Dinge einfach zu nutzen, weil sie halt gerade da sind.

00:15:04: oder was denkst du jetzt?

00:15:05: Ja glaube ich auch

00:15:07: ja!

00:15:08: Ich will noch mal einen anderen Aspekt einbringen.

00:15:10: Jetzt haben wir so ein bisschen über KI, Frühstückseier und so weiter geredet.

00:15:14: könnte es sein dass wir nachher wenn wir hier rausgehen aus dem immerhin in Bamberg noch ja viel Werbung in unserem Feed für Eierbecher-Eierkocher zu KI Themen bekommen?

00:15:26: Stichwort Personalisierte Werbung.

00:15:29: das ist auf den ersten Blick jetzt vielleicht erstmal nicht problematisch vor allem wenn der Gerd gerade neuen Eierkochter sucht oder so.

00:15:34: aber wenn mir dann beispielsweise im TikTok Politische Botschaften reingespült werden, die mich unterschiedlich beeinflussen wollen.

00:15:41: oder firmen immer mehr persönliche Daten über mich sammeln und auswerten, ohne dass ich das auch genau nachvollziehen kann.

00:15:48: Dann birgt es natürlich auch Risiken.

00:15:50: stichwort gläserner Mensch Überwachung gezielte Manipulation.

00:15:54: da steckt doch ein Schleichender Verlust von Privatsphäre drin.

00:15:57: Und gleichzeitig haben viele Menschen eben nur begrenzt Kontrolle oder Einsicht darüber welche Daten über sie existieren.

00:16:04: wie werden die genutzt?

00:16:05: Wie lange bleiben gespeichert?

00:16:07: ja brauchen wir mehr Datenschutz für eine gerechte KI eine gerechte Technologie?

00:16:12: Also ich würde sagen schon auf jeden Fall, aber nicht unbedingt im Sinne von noch mehr verbieten.

00:16:17: Weil wir sind ja schon eigentlich in Europa gut aufgestellt mit der EUEI-Akt, also das gibt es in vielen Ländern noch nicht so ein Regelwerk.

00:16:24: Aber ich glaube schon im Sinne vom besseren und glückeren Datenschutz denn letztlich ist da echt ein Problem was vielen auch nicht bewusst ist dass ja KI mit jeder Nutzung auch deine Daten speichert, aber auch einen Datenprofil von dir anlegt.

00:16:38: Also wie tigst du so?

00:16:40: was fragst du immer wieder so?

00:16:41: welchen Bereichen hältst du dich auf?

00:16:43: und wenn ich mir das jetzt mal vorstelle auch wenn man diese dieser Themenwelt weitergeht Social Scoring ist ja schon einmal angefallen also wenn dann plötzlich da ein verzerrtes Bild von mir ist, was sie eigentlich gar nicht wollte.

00:16:56: Das dann hergezogen wird ob ich eine stelle krieg oder nicht oder eben kredit kriegt oder nicht.

00:17:00: Also strange will ich gar nicht daran denken.

00:17:02: Ich glaube dass es echt Ja Ganz ehrlich sagen, ich hoffe wirklich dass wir es hinkriegen.

00:17:09: Dass wir auch Daten und Datenschützen können in dem Sinn von besseren klügeren Datenschutz damit das auch gut funktionieren kann.

00:17:19: Und da muss echt noch ein bisschen nachgeholt werden.

00:17:22: aber ja wir schaffen wir beides gleichzeitig.

00:17:24: Das ist die Frage würde ich einfach sagen durch klare Regeln, durch Transparenz und durch echte Kontrolle für die Menschen Nachvollziehbarkeit.

00:17:32: Ja du hast gerade schon ein bisschen das Thema Social Scoring usw.

00:17:36: angesprochen.

00:17:37: Du hast auch davon gesprochen dass da ja unkontrolliert Daten gesammelt werden und Machtgefälle entsteht.

00:17:42: Das hängt ja auch mit dem sogenannten Bayes zusammen.

00:17:46: Wir haben glaube ich in der ersten Episode ganz kurz darüber gesprochen.

00:17:49: Vielleicht können wir aber nochmal kurz klären.

00:17:51: Bayes bedeutet ja im Grunde, dass eine KI nicht neutral ist sondern bestimmte Verzerrungen in sich trägt.

00:17:58: Also zum Beispiel das sie manche Gruppen bevorzugt oder benachteiligt?

00:18:03: Ja genau und an der Stelle muss man aber auch sagen, dass es den großen KI-Playern auch wirklich bewusst ist und interessanterweise gibt's da auch Versuche genau diesen Problem entgegenzuwirken.

00:18:15: Ein Beispiel des ging von ein paar Monaten glaube ich so ein bisschen durch die Nachrichten.

00:18:20: Ist das, oder ich erkläre vielleicht nochmal so KI-Systeme werden ja besondere mit westlich geprägten Bildern trainiert und haben damit eben eine sehr einseitige Perspektive.

00:18:32: Und darauf hat man dann auch reagiert und versucht mehr Diversität abzubilden, da hat man aber auch gesehen wie schwierig das ist.

00:18:39: in manchen Fällen ist man dann nämlich in das andere extrem begangen und wenn man zum Beispiel nach Wehrmacht-Soldaten gesucht hat wurden plötzlich auch People of Color als Soldaten im zweiten Weltkrieg dargestellt was historisch natürlich absolut nicht korrekt ist Und das zeigt eigentlich ganz gut, dass es eben nicht nur reicht dann einfach nur mehr Vielfalt reinzugeben.

00:19:02: Sondern man muss auch darauf achten, weiterhin sachlich und kontextensibel bleiben.

00:19:08: Ja,

00:19:08: dazu würde ich gerne noch ein Buch empfehlen – und zwar das buch Feministische KI von der Wirtschafts-Insofraumatikerin Eva Gengler.

00:19:15: Das ist gerade erst erschienen!

00:19:17: Es trägt den Untertitel Warum Künstliche Intelligenz Ungerechtigkeit verstärkt und was wir dagegen tun müssen?

00:19:22: Da könnte euch noch ein bisschen intensiver in das Thema einlesen.

00:19:25: In diesem Buch ruft Eva Gängler dazu auf Technologie auch kritisch zu denken und sie als Werkzeug für Gerechtigkeit und Empowerment zu nutzen.

00:19:34: verlinken wir euch natürlich wieder in den Show-Notes.

00:19:37: Ja, denn letztlich ist KI ein Machtinstrument und wir müssen uns dieser Dimension bewusst sein wenn wir die KI nutzen wollen aber natürlich auch von Unternehmensseite programmieren wollen.

00:19:47: also das ist ein wichtiger absolut wichtiger Aspekt denn das muss uns ja klar sein dass die KI wie sie jetzt auch so machtvoll in den Markt gespült wird natürlich auch ein Instrument vieler multi Milliardäre der wirkliche Wirtschaftsleute ist, die das vorantreiben auch massiv aber auch zu ihren Maßstäben.

00:20:08: Das muss man auch ganz ehrlich sagen.

00:20:10: wenn ich da nur so verschiedene Player anschaue unter anderem Elon Musk also was der für eine Vision fährt von der Transformation einer Gesellschaft.

00:20:21: es ist ja strange und da kommen jetzt so Sachen wie Werte Verantwortung Grenzen und Macht eben auch zusammen.

00:20:26: das sind echt super Beispiele.

00:20:28: Ja, und sobald wir anfangen aber KI-gerechter zu machen treffen wir ja auch Entscheidungen darüber was eigentlich gerecht ist.

00:20:34: Also sobalde wir uns damit beschäftigen ist es aber auch klarlegen glaube ich wird auch für viele etwas deutlich.

00:20:40: Und dann ist es da keine rein technische Frage mehr sondern eben eine gesellschaftliche würde ich sagen.

00:20:45: das ist ganz wichtig.

00:20:46: Aber dann auch die frage wer definiert diese Maßstäbe?

00:20:48: also überlassen wir das alles diesen multi-Milliardären, die da irgendwie in so einer neuen Welt arbeiten wollen oder gibt es da Institutionen, die durchaus machtvoll sind?

00:21:00: Also für mich ist auch die Frage wie lassen sich Staaten darauf ein.

00:21:04: Wenn ich jetzt wirklich die politische Lage anschaue, wie strange sie ist, lasse sich Staate darauf ein dass es wirklich eine für alle verbindliche Regelung geben wird mit dem gerechten Umgang Kriegstreiben.

00:21:19: Also sprich, wenn ich jetzt sehe wie viele große Länder aufrüsten und Putin auch mal gesagt hat also es war in siebzehn schon wer die Macht über die KI hat wird auch die Weltmacht sein auf der welt.

00:21:34: Es wird wirklich heftig werden.

00:21:35: glaube das muss jetzt schon beginnen dass sich da gewisse Zirkel bilden und fürs Vorschriften gibt auf die sich alle einigen können und die auch verpflichtend sind.

00:21:47: Ein Punkt ist ja der EUI, ich habe ihn schon bereits angesprochen.

00:21:50: Der regelt natürlich innerhalb Europa auch so das Arbeiten mit KI aber auch das Benutzen von KI und das finde ich eigentlich ganz gut weil er eben genau die Punkte die wir schon angesprochen haben Social Scoring oder Bayes Verzerrungen Vorurteile eben schon sehr stark reklementiert fildert und die Benutzung solcher Tools zum Beispiel Personalwesen mit klaren Kriterien und Regeln, und vor allem auch mit der Nachprüfbarkeit belegt.

00:22:17: Und das sind Hürden die eine Auseinandersetzung als zum Beispiel als Firma, als große Company eben damit auch ja befeuert.

00:22:28: also ich muss mich klar damit auseinandersetzen und muss auch schauen wo sind denn meine Probleme, die ich habe?

00:22:33: Die Vorurteile, die vielleicht auch hab' und wie gehe ich mit dieser KI um?

00:22:36: Also ich glaube, das sind schon wichtige Ansätze.

00:22:38: Und da finde ich jetzt gut dass wir als EU zwar reglementieren aber eben auch im Sinne des Schutzes des Menschen und seiner Würde ja auch seines Wertes als Mensch der sich einbringt in die Wortschöpfungskette.

00:22:53: Wenn wir jetzt mal weggehen von den großen übernationalen Fragestellungen im Zusammenhang mit der KI, gehen wir mal rein ins Kleine.

00:23:01: Wir sind ja hier in Bamberg und Gerd, du bist KI-Manager des Erzbistums Bamberg einer deiner vielen Jobs hier in der RSDU Zöse Die Kirche ist ja nicht gerade dafür bekannt immer schnelle Entscheidungen zu treffen und dann vor allem schnell auch umzusetzen.

00:23:18: Wie sieht es eigentlich mit der KI in der RSDU Zösse aus?

00:23:21: Ja, spannende Frage.

00:23:23: Also du hast es schon richtig vermutet.

00:23:24: Es ist nicht immer da die Vorreiterin in der Hinsicht.

00:23:28: aber nichtsdestotrotz ich kann ganz ehrlich sagen fürs Erzbistum Bamberg sind wir da schon gut dran und auch zeitig dran uns mit dem Thema KI und seinen Möglichkeiten zu beschäftigen vor allem auch im Sinne von wo können wir unsere Mitarbeitenden in der Verwaltung?

00:23:44: Aber v.a.

00:23:45: auch in den Pfarreien draußen entlasten durch administrative Aufgaben, die KI übernehmen kann.

00:23:52: Das sind zarte Plänschen, die wir angehen.

00:23:56: Es gibt die KI-Lightlinien zum Beispiel oder es gibt jetzt auch zurzeit noch bis zum Juli die Testverein, die den TelefonKI-Agenten eben ausnutzen und ausprobieren.

00:24:07: Okay, vielleicht ganz kurz wie Sie was macht so ein Telefonki Agent?

00:24:12: Gut ähnlich wie wir's schon kennen aus anderen Kontexten heraus er nimmt einen Telefonat an zu einer Zeit, also wenn ich jetzt im dreiundzwanzig oder zwanzig Anruf weiß ich von sich aus dass da keiner beim Fabero ist.

00:24:24: Aber das Anliegen wird aufgenommen der KI Agent spricht mit mir nimmt es Anliegend auf protokolliert und schickt's meiner Anfrage gemäß an die richtige Mitarbeiterin an den richtigen Mitarbeiter.

00:24:34: damit geht keines der Anliege verloren und das ist glaube ich ja auch wichtig in einer Zeit wo wir eine Kontrastgesellschaft werden als Kirche Leute mit uns nichts zu tun haben, haben wollen als wie die mit uns zu tun.

00:24:48: Und ich habe es oft selbst als Pfarrer erlebt.

00:24:50: also da braucht man einmal die Kirche und dann ist keiner da.

00:24:53: Wenn ich mir manche Zeiten anschaue wo ein Fahrbüro besetzt ist, also manchmal von zehn bis vierzehn Uhr das sage ich natürlich auch als Familienvater oder als Familienmutter, ja danke sich.

00:25:04: Sechzehn uhr hab ich aus.

00:25:05: Dann muss er mein Kind abholen.

00:25:07: wann soll ich bitte ins Büro kommen?

00:25:09: Da kann natürlich so'n Tool Kleine Beitrag dazu sein.

00:25:14: Wir wollen ansprechbar bleiben.

00:25:18: und einfach ausprobieren.

00:25:20: Ansprechbar sein ist das Stichwort, wir versuchen ja mit unserem Podcast auch ein bisschen rauszuwirken aus dem Kosmoskirche.

00:25:28: jetzt sind wir tatsächlich wieder am Ende unserer zweiten Staffel angelangt und wir merken dass Thema KI und Ethik nicht mal ansatzweise ausgeschöpft oder auch theologische Antworten auf Fragen die die KI aufwirft.

00:25:46: Laura Gerd, was wünscht ihr euch denn für den Umgang um die zukünftigen Entwicklungen zum Thema KI?

00:25:53: Ja mir ist gerade in der letzten Sekunden Minuten unseres Podcasts aufgefallen dass die zwei Buchstaben KI ja wirklich auch schon im Wort Kirche drinstecken.

00:26:02: Ha ha!

00:26:03: Dementsprechend freue ich mich einfach das wir also jetzt über dem Podcast darüber gesprochen haben und freue mich auch, sich auf das Thema KI einlässt.

00:26:17: und andererseits beschäftigt mich das Thema künstliche Intelligenz, mich beschäftigen insbesondere auch die aktuellen Meldungen zum Thema Gewalt im virtuellen Raum.

00:26:27: Und ich hoffe einfach dass es da bessere Regulierungen gibt, die ja alle aber natürlich insbesondere auch Kinder Jugendliche und Frauen angemessen schützen.

00:26:37: Die KI hilft uns, so haben wir jetzt schon an der einen oder anderen Stelle festgestellt gesellschaftliche Missstände aufzuzeigen und ich hoffe aber auch dass damit dann ein echter Wandel hin zu einer gerechteren Welt entstehen kann.

00:26:51: Ja also das ist schon mal da kann ich echt nur d'accord sagen.

00:26:54: also geht mir genauso und Ich glaube es ist auch wichtig dass vor allem die Verantwortlichen in Wirtschaft und Politik Wo man es ja weiß, dass es Berufszweige geben wird die sich komplett verändern werden.

00:27:09: Dass man jetzt schon eigentlich auch Mechanismen etabliert die eben nicht Leute einfach von heute auf morgen vor das aus, vor des Nichts setzen sondern jetzt schon Chancen etabliert werden.

00:27:20: Dass sie sich weiterbilden können und umbilden auch da zukunftsfähig weil sonst haben wir echt ein Problem innerhalb der Gesellschaft und vor allem die Schere zwischen Arm und Reich sehe ich dann noch größer Aufgehen wenn blind gefahren wird auf Deutschland.

00:27:35: Deswegen sind für mich so ein verantwortetes System weiterbildendes und vor allem auch die rechtliche Absicherung einen Vorgehen, das ganz wichtig ist für Wirtschaftspolitik aber auch für Kirche würde ich sagen.

00:27:48: Und vielleicht abschließend?

00:27:50: Ich wünsche mir... dass die KI-User, die KI nicht nur so passiv nutzen und sagen ich will eine Antwort haben.

00:27:56: Gib mir die schnelle Lösung für meinen Problem sondern sie auch wirklich aktiv mitarbeiten sich über die KI und ihre Funktionsweise zu informieren und reflektiert im Umgang mit der KI bleiben.

00:28:09: Ja, wir danken euch ganz herzlich dass ihr als Hörerinnen und Hörern der zweiten Staffel von Allmacht-Bamberger Gespräche über Gott und die Welt dabei wart.

00:28:17: Wir würden uns freuen wenn ihr uns ein paar Sterne beziehungsweise eine gute Bewertung da lasst.

00:28:23: Eure Claudia!

00:28:24: Euer Gert!

00:28:25: Und eure Laura.