Wie digital ist der Bundestag und wie gefährlich ist Desinformation?

Andrea Lindholz:
Der Bundestag ist der Ort mit unglaublich vielen Informationen und Ausarbeitungen aus Jahrzehnten. Diesen Wissensschatz wollen wir mit einem eigenen LLM sichtbarer und besser nutzbar machen, sodass von außen, aber auch von innen viel einfacher darauf zugegriffen werden kann. Da können und sollten wir schneller digitaler werden, denn davon hätten auch die Bürgerinnen und Bürger einen Mehrwert.

Tobias Grimm:
Sagt Bundestagsvizepräsidentin Andrea Lindholz. Neben der Frage, wie digital der Deutsche Bundestag heute ist, sprechen wir darüber, wo KI die Arbeit von Abgeordneten sinnvoll unterstützen kann und wo klare rote Linien gezogen werden müssen.
Außerdem geht es um die Gefahr von Desinformationskampagnen und um die Debattenkultur in Deutschland.
Und damit herzlich willkommen zu Tech Weekly, dem Podcast des Bitkom, mit mir, Tobias Grimm.

Politik

Tobias Grimm:
Frau Lindholz, als Bundestagsvizepräsidentin sind Sie unter anderem für die Abläufe im Parlament mitverantwortlich. Wie digital ist denn der Deutsche Bundestag heute schon und wo sollte er es aus Ihrer Sicht noch werden?

Andrea Lindholz:
Wir haben eine Kommission, die sogenannte IuD-Kommission. Das steht für Informationstechnologie und Digitalisierung. Sie ist dem Ältestenrat unterstellt, und ich leite diese Kommission.
Als ich diesen Job im vergangenen Jahr übernommen habe, hatten wir sehr viele offene Digitalprojekte. Der Bundestag hat sich natürlich schon auf den Weg zur Digitalisierung gemacht. Aber allein für die Abgeordneten hatten wir rund 30 offene Projekte.
Und da geht es uns wie vielen anderen Unternehmen und Behörden auch: Wir steigen jetzt, glaube ich, so richtig in die Fragen der Digitalisierung und vor allem in die Umsetzung ein. Und gerade in der jetzigen Zeit geht natürlich sehr viel.

Tobias Grimm:
Da gibt es ja dieses Stichwort Digitalstrategie. Vielleicht können Sie uns dazu noch etwas erzählen.

Andrea Lindholz:
Das war uns total wichtig. Denn man muss beim Bundestag sehen: Wir haben zum einen die Bundestagsverwaltung und zum anderen die Abgeordnetenbüros.
Die Abgeordnetenbüros muss man sich ein bisschen wie viele kleine Einzelunternehmen vorstellen. Auf die Verwaltung hat man direkten Einfluss, auf die Büros eben nur bedingt. Trotzdem stellt der Bundestag die Infrastruktur für alle zur Verfügung.
Deshalb war es uns mit Blick auf die Projekte, die anstehen oder schon in der Umsetzung sind, wichtig, einmal klar festzulegen: Was leitet uns eigentlich? Welche Aufgabenbereiche haben wir? Was sind unsere Grundsätze?
Wir wollen vor allen Dingen wissen: Wo liegen unsere Daten? Wie sicher ist das Ganze? Wie souverän sind wir? Aber auch: Wie anwenderfreundlich und serviceorientiert ist das Ganze?
Denn die sicherste Lösung nützt mir nichts, wenn ich niemanden habe, der sie anschließend nutzt. Und das war der Hintergrund, warum wir gesagt haben: Wir entwickeln jetzt unsere erste Digitalstrategie.

Tobias Grimm:
Was steht denn konkret darin? Was soll sich für die Abgeordneten und auf der anderen Seite für die Verwaltung ändern? Und wie wollen Sie am Ende messen, dass sich wirklich etwas verändert hat?

Andrea Lindholz:
Ich würde mit dem letzten Punkt anfangen, also mit der Messbarkeit. Als ich den Job übernommen habe, wurde jedes Projekt anhand von Meilensteinen gemessen. Aber ich habe festgestellt: Die Meilensteine wurden häufig einfach nur verschoben, viele Projekte aber gar nicht wirklich zu Ende geführt.
Deshalb habe ich erst einmal den Druck herausgenommen und gesagt: Lasst uns mit der Messbarkeit im zweiten Schritt beginnen. Momentan haben wir deshalb noch keine konkreten Messgrößen in der Strategie.
Wir haben die Digitalstrategie aber auf den Weg gebracht und drei Grundsätze festgelegt: Wir wollen sicher, souverän und serviceorientiert sein.
Dabei geht es um Fragen wie: Wo liegen unsere Daten und wo werden sie verwendet? Wie stellen wir sicher, dass wir jederzeit wechselfähig sind und nicht von einzelnen großen Anbietern abhängig werden? Abhängigkeit ist ein wichtiges Thema.
Wir haben die unterschiedlichen Ebenen – Hardware, Software und Anwendungen – betrachtet und definiert, wo wir zuerst ansetzen können. Sichere Kommunikation ist beispielsweise ein Bereich, die Anwendung von KI ein weiterer.
Für insgesamt fünf Bereiche in diesem Ökosystem haben wir festgelegt, welche Grundsätze uns leiten und was das konkret für die Abgeordneten bedeutet.
Ein Beispiel ist der KI-Chatbot für die Abgeordnetenbüros. Wir stellen fest, dass es ein hohes Maß an Schatten-KI gibt. Jeder nutzt im Zweifel das, was er gerade findet. Deshalb haben wir relativ kurzfristig gemeinsam entschieden, ab Oktober einen eigenen KI-Chatbot zur Verfügung zu stellen, der datenschutzsicher und datenschutzkonform ist. Er soll beispielsweise personenbezogene Daten erkennen und ausblenden, wenn ein Nutzer bei der Anwendung nicht darauf geachtet hat. Man wird ihn online und offline nutzen können. Gerade bei der Online-Nutzung wollen wir zusätzliche Schutzmechanismen einbauen.
Auch bei anderen Digitalprojekten haben wir geschaut: Was läuft bereits gut und kann jetzt umgesetzt werden? Wo können wir sichere Lösungen implementieren?
Nach der Sommerpause werden die Abgeordneten einige konkrete Veränderungen sehen. Die Anwesenheitserfassung wird mit dem Ausweis digitalisiert. Der KI-Chatbot kommt. Auch bei der technischen Ausstattung der Fraktionen haben wir weiter digitalisiert. Uns geht es also darum: Die Strategie ist das eine. Gleichzeitig wollen wir aber möglichst schnell bessere Arbeitsbedingungen schaffen, die auch tatsächlich spürbar sind.
Ein weiteres großes Thema ist das kollaborative Arbeiten. Also die Frage: Wie können wir gut zusammenarbeiten, ohne uns ständig tausend E-Mails hin- und herzuschicken?
Auch da werden wir zunächst eine Zwischenlösung anbieten, die von der Verwaltung selbst entwickelt worden ist, um schneller in die Umsetzung zu kommen.
Denn manchmal wartet man auf die maßgeschneiderte perfekte Lösung – und dann dauert es ewig. Gerade bei der Digitalisierung muss man auch sagen: Wir fangen einfach einmal an. Vielleicht zunächst kleiner und nicht direkt mit der ganz großen Lösung. Genau das machen wir, und das werden die Kolleginnen und Kollegen auch spüren.

Tobias Grimm:
Wenn wir auf Künstliche Intelligenz schauen: Sie haben den KI-Chatbot angesprochen. Wo darf ein Abgeordneter den einsetzen? Und wo sagen Sie: Da gibt es eine rote Linie?

Andrea Lindholz:
Das ist eine sehr wichtige und spannende Frage. Denn grundsätzlich ist ein Abgeordneter frei gewählt. Anders als in einer Verwaltung oder einem Unternehmen kann man ihm nicht einfach sagen: Das dürft ihr und das dürft ihr nicht. 
Was wir aber in der normalen Arbeitswelt sehen, ist, dass klassische Large Language Models inzwischen von vielen Menschen auf ganz unterschiedliche Weise eingesetzt werden. Und weil jeder im Zweifel macht, was er möchte, haben wir gesagt: Das wollen wir so nicht. Wir wollen über Schulungen erreichen, dass die Kolleginnen und Kollegen und auch die Mitarbeiterinnen und Mitarbeiter in den Büros wissen: Was darf man? Was sollte man tun? Und was sollte man gerade nicht tun? Personenbezogene Daten einfach in ein öffentliches System einzugeben, sollte man zum Beispiel gerade nicht tun. Deshalb bieten wir die Möglichkeit, mehrere Modelle offline zu nutzen. Man kann auch online gehen, muss das aber noch einmal bewusst bestätigen. Zusätzlich soll der Chatbot selbst erkennen, wenn möglicherweise personenbezogene Daten enthalten sind, und darauf hinweisen.
Mit den Schulungen wollen wir alle mitnehmen und auch die Frage klären, wann der Einsatz von KI kenntlich gemacht werden muss.
Denn es gibt einen Unterschied: Wenn ich sage, mir gefällt eine Textpassage nicht, schau bitte noch einmal darüber, straff sie oder schlag mir ein alternatives Wort vor, dann ist KI unterstützend.
Ich kann aber natürlich auch sagen: Schreib mir zu einem bestimmten Thema einen kompletten Text. Das ist etwas anderes. Da liegt für mich auch die Grenze: KI sollte bei Abgeordneten immer unterstützend und nicht ersetzend sein.
Denn das, was wir Menschen mitbringen – unsere Gedanken, Überlegungen und Empfindungen –, kann eine KI nicht einfach ersetzen. Deshalb sage ich: unterstützend ja, komplett ersetzend eher nicht.

Tobias Grimm:
Ein anderer Punkt, den Sie angesprochen haben, ist die technologische Souveränität. Der Bundestag will stärker auf Open-Source-Lösungen setzen. Wie kann man sich das vorstellen? Und wie kann der Bundestag dabei vielleicht auch zum Vorbild für digitale Souveränität werden?

Andrea Lindholz:
Das ist eines der schwierigsten Themen überhaupt. Das beschäftigt ganz viele Unternehmen – und uns natürlich genauso.
Was ich sicher sagen kann: Wir sind uns fraktionsübergreifend einig, dass wir nicht von einem einzelnen großen Anbieter abhängig sein wollen. Eine Lösung, bei der man alles aus einer Hand bekommt, ist im ersten Moment natürlich bequem. Unter sicherheitspolitischen und souveränitätspolitischen Gesichtspunkten ist das für uns aber nicht die richtige Lösung.
Darauf haben wir uns verständigt. Und jetzt versuchen wir, diese Transformation vorzunehmen, indem wir alle Anwendungen daraufhin überprüfen: Wie souverän und wie wechselfähig sind wir damit? Wenn wir neue Lösungen einführen, wollen wir darauf achten, dass wir ein Produkt gegebenenfalls jederzeit wieder ersetzen können. Das bedeutet aber nicht, dass wir von heute auf morgen alles abschalten. Wir arbeiten beispielsweise mit Microsoft und können natürlich nicht einfach von einem Tag auf den anderen sagen: Das machen wir nicht mehr. Die Frage ist vielmehr: Wie können wir parallel Alternativen aufbauen? Gerade beim digitalen Arbeitsplatz – also bei der Frage, was ich nutze und wie ich kommuniziere – wollen wir unabhängiger werden. Und genau da können wir, finde ich, Vorbild sein. Schon das Signal, dass wir diesen Weg gehen wollen, kann vielleicht ein Anstoß für andere sein.
Wir stehen dazu mit vielen deutschen und europäischen Unternehmen in Kontakt. Und ich wäre sehr froh, wenn wir gerade beim digitalen Arbeitsplatz Lösungen von deutschen oder europäischen Unternehmen hätten, bei denen wir sagen können: Das ist ein guter Schritt, da können wir mitgehen.
Dann können wir auch wirklich Vorbild sein.

Tobias Grimm:
Durch KI sehen wir, dass Angriffe vielfältiger werden. Phishing wird einfacher, Deepfakes werden immer realistischer. Wie gut ist denn der Bundestag auf Cyberangriffe vorbereitet?

Andrea Lindholz:
Beim Thema KI ist mir zunächst wichtig zu sagen: Man muss die Ergebnisse immer kritisch hinterfragen. KI ist heute kein perfektes System und macht nicht alles richtig. Das muss man wissen.
Zum anderen macht KI bestimmte Bedrohungen natürlich auch gefährlicher. Phishing ist ein wichtiger Punkt. Ich brauche nicht mehr unbedingt einen Menschen, der irgendwo sitzt und einzelne Angriffe vorbereitet, sondern kann KI-gesteuerte Angriffe fahren. Das betrifft nicht nur den Bundestag, sondern uns alle. Wir müssen deshalb unsere Mechanismen sicherer machen und gleichzeitig dafür sorgen, dass der Mensch als Nutzer möglichst wenige Fehler machen kann.
Beim Thema Messenger-Dienste haben wir beispielsweise gesagt: Einen frei verfügbaren Messenger wie WhatsApp können wir für den täglichen dienstlichen Gebrauch von Abgeordneten nicht unbedingt empfehlen, weil damit Sicherheitsrisiken verbunden sind und auch Phishing eine Rolle spielt. Deshalb müssen wir überall Sicherheitslevel einziehen, wo es möglich ist.
Der Bundestag steht dabei grundsätzlich vor den gleichen Herausforderungen wie andere Institutionen auch: Wir müssen informieren, schulen und technische Schutzmechanismen einziehen.
Das Problem ist häufig, dass Angriffe eher von innen als von außen erfolgreich sind. Gegen Angriffe von außen haben wir hohe Sicherheitsstufen. Wir machen Penetrationstests und sehr viel mehr. Die Schwachstelle kann aber durch Fehler von innen entstehen oder dadurch, dass bewusst etwas eingeschleust wird. Deshalb braucht es Schutzschichten sowohl im Inneren als auch nach außen. 
Wir müssen vor allem zusammenarbeiten. Das tun wir mit dem BSI, mit dem Bundesamt für Verfassungsschutz, mit dem Innenministerium und mit dem Digitalministerium. Die Behörden und Ministerien müssen sich untereinander abstimmen und beispielsweise schnell warnen können: Vorsicht, da gibt es eine größere Angriffswelle. Wie können wir gemeinsam dagegen vorgehen? Das BSI ist dabei eine ganz wichtige Schlüsselbehörde.

Tobias Grimm:
Sie haben die Gefahren von außen angesprochen. Dann müssen wir auch über Desinformationskampagnen und Deepfakes sprechen. Sind unsere Bevölkerung und unsere demokratischen Institutionen darauf vorbereitet?

Andrea Lindholz:
Ich glaube, wir sind immer noch ein bisschen zu gutgläubig. Wir sind uns als Einzelne noch nicht immer aller Mechanismen wirklich bewusst.
Vielleicht sind wir hier in Berlin oder als Abgeordnete schon stärker sensibilisiert. Aber viele Menschen in der Bevölkerung sind das noch nicht. Das ist überhaupt kein Vorwurf. Man glaubt zunächst einmal vieles von dem, was im Netz steht und diese Desinformationskampagnen, die gefahren werden, sind wirklich massiv. Gerade im Hinblick auf Wahlen haben wir das auch bei der letzten Bundestagswahl wieder erlebt. Das BSI versucht hier gegenzusteuern.
Am Ende ist aber entscheidend, dass sich jeder einzelne Nutzer dieser Mechanismen bewusst ist. Es gibt von fremden Mächten gesteuerte Kampagnen, die auf sehr vielen unterschiedlichen Ebenen stattfinden. Diese Akteure haben ein Interesse daran, unsere Gesellschaft zu beeinflussen.
Deshalb muss man sagen: Vorsicht. Nicht sofort darauf hereinfallen, sondern sich bewusst fragen: Kann das sein? Macht das Sinn? Woher kommt diese Information? Warum wird sie verbreitet? Manchmal hilft es vielleicht auch, sich im realen Leben darüber auszutauschen.
Algorithmen und all das, was KI zusätzlich ermöglicht, wirken dabei wie Brandbeschleuniger. Wir müssen deshalb auch darüber nachdenken, wie man mit Gegenmaßnahmen und Gegenkampagnen reagieren kann. Das erfordert natürlich ebenfalls ein hohes Maß an Kompetenz und ist häufig eine Aufgabe für Expertinnen und Experten.

Tobias Grimm:
Sie haben vor Kurzem in einem Interview gesagt, der Bundestag verkomme langsam zur Kulisse für Social Media. Vielleicht können Sie das noch einmal einordnen. Wie schaffen wir es, eine ernsthafte politische Debatte zu erhalten und gleichzeitig auf Social Media aktiv zu sein?

Andrea Lindholz:
Es ist total wichtig, dass wir auf Social Media aktiv sind und dort auch unsere Arbeit darstellen. Wenn wir dort genauso seriös arbeiten, wie wir es sonst auch tun, dann ist das völlig in Ordnung.
Aber was erleben wir in der politischen Auseinandersetzung?
Algorithmen führen dazu, dass bestimmte extreme Positionen stärker nach oben gespült werden und mehr Aufmerksamkeit bekommen als andere. Und wir erleben, dass Rednerinnen und Redner in ihren Reden teilweise nicht mehr mit den anderen Kolleginnen und Kollegen diskutieren, sondern ein oder zwei Textpassagen bewusst für die sozialen Netzwerke zuspitzen – für die Provokation und für den späteren Transport über Social Media. Das ist das, was ich sehr bedauere. Denn dadurch geht viel von einem guten demokratischen Miteinander verloren. Das heißt nicht, dass man nicht hart und klar diskutieren darf. Aber bestimmte Stilmittel werden bewusst gewählt, jemand wird bewusst provoziert oder eine bestimmte Situation bewusst herbeigeführt, damit anschließend ein kurzer Ausschnitt auf Social Media besonders gut funktioniert.
Da müsste man sich eigentlich auch die Steuerung der Algorithmen anschauen. Es wäre aus meiner Sicht auch Aufgabe der Plattformbetreiber, in bestimmten Bereichen zu sagen: Da müssen wir an die Algorithmen ran.

Tobias Grimm:
Was erwarten Sie denn von Politikerinnen und Politikern auf Social Media? Wie sollten sich Abgeordnete dort verhalten?

Andrea Lindholz:
Wir sind auch Vorbilder für die Diskussionskultur. Natürlich kann man einen kritischen Beitrag veröffentlichen. Aber wir erleben eben auch falsche oder verzerrte Darstellungen auf Social Media.
Ich würde mir wünschen, dass die Kolleginnen und Kollegen die Verantwortung, die sie haben, ernst nehmen und sagen: Halbwahrheiten, die bewusst falsch interpretiert werden können, oder tatsächliche Falschaussagen verwenden wir dort nicht. Denn wenn man etwas behauptet, was nicht stimmt, läuft das innerhalb von Sekunden durch das gesamte Netz und erreicht sehr viele Menschen. Wenn man anschließend versucht, das wieder einzufangen, ist das fast nicht mehr möglich. Diese Reichweite haben wir im normalen Leben nicht.
Deshalb würde ich mir wünschen, dass man sich dieser Verantwortung bewusst ist und die Aufregungsspirale nicht immer weiter nach oben zieht. Und allen, die damit nichts zu tun haben wollen, würde ich auch empfehlen, nicht auf jede Provokation hereinzufallen. Man kann bewusst Dinge ausblenden und sagen: Von dieser Person möchte ich nichts mehr hören oder lesen. Auch das kann die weitere Verbreitung begrenzen.

Tobias Grimm:
Vielleicht können wir zum Abschluss noch einmal zum Bundestag zurückkommen. Wo kann das Parlament noch digitaler werden? Und wo sagen Sie: Das sollte analog bleiben oder zumindest parallel analog und digital funktionieren?

Andrea Lindholz:
Es wird zum Beispiel viel darüber gesprochen, ob Abstimmungen komplett elektronisch stattfinden sollten. Das ist ein Punkt, bei dem ich sage: Das muss man sich sehr gut überlegen.
Wir haben ein gutes System, bei dem man im Prinzip nach jedem Tagesordnungspunkt das Abstimmungsverhalten sieht. Das sollte erhalten bleiben. Wenn überhaupt, könnte ich mir stationäre elektronische Abstimmungen vor Ort nach den Debatten vorstellen. Aber nicht, dass jeder von überall aus abstimmen kann. Da ist das althergebrachte Verfahren manchmal gar nicht das Schlechteste.
Ganz anders sieht es beim Wissensschatz des Bundestages aus. Wir haben einen riesigen Dokumentenbestand. Der Bundestag ist ein Ort mit unglaublich vielen Informationen und Ausarbeitungen aus Jahrzehnten. Diesen Wissensschatz wollen wir mit einem eigenen LLM sichtbarer und besser nutzbar machen, sodass von außen, aber auch von innen viel einfacher darauf zugegriffen werden kann. Da können und sollten wir deutlich schneller digitaler werden. Denn davon hätten auch die Bürgerinnen und Bürger einen unmittelbaren Mehrwert.
Wenn beispielsweise eine Ausarbeitung des Wissenschaftlichen Dienstes irgendwann einmal eine bestimmte Frage beantwortet hat, sollte man diese Information schnell und einfach finden können. Es geht also um eine gute Datengrundlage und anschließend um die Frage: Was können wir davon auch der Öffentlichkeit zugänglich machen?
Ich glaube, es wäre auch gut für unsere Demokratie, wenn Bürgerinnen und Bürger sich über ein solches Parlaments-LLM schneller und besser selbst informieren könnten. Da können wir auf jeden Fall zügig digitaler werden.
Und natürlich können wir auch unsere internen Abläufe effektiver gestalten. Wenn wir selbst schneller und effizienter arbeiten können, dann spüren das am Ende auch die Bürgerinnen und Bürger.

Tobias Grimm:
Frau Lindholz, vielen Dank für das Gespräch.

Der Terminkalender

Tobias Grimm:
Zum Abschluss noch ein kurzer Blick auf Kalenderwoche 37. 
Die parlamentarische Sommerpause endet und die Zeit der Haushaltsberatungen beginnt. Auch die Europäische Kommission nimmt ihre Arbeit wieder auf und startet am Mittwoch, den 9. September, mit ihrer wöchentlichen Kommissionssitzung. Auf der Agenda stehen unter anderem der Public Procurement Act und der European Innovation Act.
Außerdem findet am 9. September wieder ein Bitkom@Eight statt. Diesmal mit Eva Schmierer. Unter anderem soll es um die Fortschritte bei der Digitalisierung der Justiz und um die Frage gehen, wie KI in den Amtsstuben helfen kann.
Und damit endet der Ausblick auf die kommende Woche auch schon. Weitere Nachrichten aus der Digitalbranche gibt es wie immer auf bitkom.org.
Danke fürs Zuhören und bis nächsten Freitag.