Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #664117 > unrolled thread

Digitalisierung: Ermessen per KI

Back to article view | Back to ger.ct

Contents

  Digitalisierung: Ermessen per KI Martin Ebert <mx300@gmx.net> - 2026-05-20 01:30 +0200
    Re: Digitalisierung: Ermessen per KI "F. W." <me@home.invalid> - 2026-05-20 07:24 +0200
    Re: Digitalisierung: Ermessen per KI Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de> - 2026-05-20 08:07 +0200
    Re: Digitalisierung: Ermessen per KI "Dr. Joachim Neudert" <neudert@5sl.org> - 2026-05-20 08:32 +0200
      Re: Digitalisierung: Ermessen per KI "F. W." <me@home.invalid> - 2026-05-20 09:18 +0200
        Re: Digitalisierung: Ermessen per KI Martin Ebert <mx300@gmx.net> - 2026-05-21 00:57 +0200
          Re: Digitalisierung: Ermessen per KI "F. W." <me@home.invalid> - 2026-05-21 07:07 +0200
            Re: Digitalisierung: Ermessen per KI Frank Nitzschner <nospam@nitzschner.de> - 2026-05-21 07:37 +0200
            Re: Digitalisierung: Ermessen per KI Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2026-05-21 08:13 +0000
              Re: Digitalisierung: Ermessen per KI Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-05-21 08:38 +0000

#664117 — Digitalisierung: Ermessen per KI

Ich habe für unmöglich gehalten, dass jemand sowas ernsthaft
erwägt. Wegen "Bürger hat ein Recht auf nachvollziehbare,
durch Menschen ... Einzelfall..." und so weiter.

Es ging schneller als in meinen schlimmsten Träumen:

"Laut Herrmann sieht der Entwurf auch vor, dass behördliche
  Ermessensentscheidungen künftig von einer Künstlichen
  Intelligenz getroffen werden können."

Quelle:
<https://www.deutschlandfunk.de/pflicht-fuer-beglaubigte-kopien-abgeschafft-102.html>

[toc] | [next] | [standalone]

#664119

Am 20.05.2026 um 01:30 schrieb Martin Ebert:

> Ich habe für unmöglich gehalten, dass jemand sowas ernsthaft
> erwägt. Wegen "Bürger hat ein Recht auf nachvollziehbare,
> durch Menschen ... Einzelfall..." und so weiter.
> 
> Es ging schneller als in meinen schlimmsten Träumen:
> 
> "Laut Herrmann sieht der Entwurf auch vor, dass behördliche
>   Ermessensentscheidungen künftig von einer Künstlichen
>   Intelligenz getroffen werden können."
> 
> Quelle:
> <https://www.deutschlandfunk.de/pflicht-fuer-beglaubigte-kopien- 
> abgeschafft-102.html>
> 

„Die betroffene Person hat das Recht, nicht einer ausschließlich auf 
einer automatisierten Verarbeitung – einschließlich Profiling – 
beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber 
rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich 
beeinträchtigt.“ (Art. 22 Abs. 1 DSGVO)

FW

[toc] | [prev] | [next] | [standalone]

#664123

Salve allerseits,

Martin Ebert schrieb:
>
> Ich habe für unmöglich gehalten, dass jemand sowas ernsthaft erwägt. Wegen
> "Bürger hat ein Recht auf nachvollziehbare, durch Menschen ... Einzelfall..."
> und so weiter. Es ging schneller als in meinen schlimmsten Träumen: "Laut Herrmann
> sieht der Entwurf auch vor, dass behördliche Ermessensentscheidungen künftig
> von einer Künstlichen Intelligenz getroffen werden können."
> 
+--- <hier abknabbern> ---
| Die Verwaltung ist vielerorts mit enormer Arbeitslast und Personalmangel
| konfrontiert. Medien berichten regelmäßig darüber, wie sehr in den
| Behörden "Land unter" herrscht: Zum Beispiel über Bearbeitungszeiten,
| wie etwa bis zu 16 Wochen bei Wohngeldanträgen oder massive Rückstände,
| wie die rund 70.000 unbearbeiteten Anträge bei der hessischen
| Beihilfestelle.
|
| Der Einsatz Künstlicher Intelligenz (KI) verspricht hier nun
| Effizienzgewinne und innovative Lösungsansätze – auch für die
| öffentliche Verwaltung. Doch während sich die Technologie rasant
| fortentwickelt, stößt ihr Einsatz in Deutschland auf rechtliche Hürden.
| Bestes Beispiel hierfür ist § 35a des Verwaltungsverfahrensgesetzes
| (VwVfG). Eine Norm, die den Erlass vollautomatisierter Verwaltungsakte
| regelt und damit eigentlich die Arbeit in Deutschlands Amtsstuben
| erleichtern und beschleunigen soll.
|
| Grund für die ausbremsende Wirkung: Die Norm gestattet automatisierte
| Verwaltungsakte nur dann, "sofern dies durch Rechtsvorschrift zugelassen
| ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht“.
| Diese strikte Trennung zwischen potenziell automatisierbaren gebundenen
| Entscheidungen einerseits und Entscheidungen mit Ermessensspielraum, die
| menschlicher Abwägung vorbehalten bleiben sollen andererseits,
| kollidiert zunehmend mit der technologischen und administrativen Realität.
|
| § 35a *VwVfG von der technologischen Entwicklung überholt*
|
| Der 2017, also noch vor dem rasanten Aufstieg generativer KI eingeführte
| § 35a VwVfG unterstellt die Automatisierung von Verwaltungsverfahren der
| Kontrolle des Gesetzgebers. Er verbietet sie explizit für
| Ermessensentscheidungen. Abwägungs- und Willensakte sollen dem Menschen
| vorbehalten sein und nicht von Apparaten übernommen werden.
|
| Das Kernproblem dieser Regelung ist ihr zugrundeliegendes
| Technikverständnis: Es basiert auf einem Bild einfacher,
| deterministischer Wenn-Dann-Algorithmen und wird damit den Fähigkeiten
| moderner, probabilistisch arbeitender KI nicht gerecht. Diese vermag es,
| komplexe Muster in großen, auch weniger strukturierten Datenmengen zu
| erkennen, daraus eigenständig Schlüsse zu ziehen und sich durch neue
| Daten anzupassen.
|
| Der in § 35a VwVfG geregelte Gesetzesvorbehalt ist ein bewusst
| geschaffenes rechtsstaatliches Kontrollinstrument: Er soll
| sicherstellen, dass der Normgeber über den Einsatz von Automatisierung
| entscheidet, um Verfahrensrechte und gesetzgeberische
| Gestaltungsfreiheit zu wahren. Diese Notwendigkeit einer expliziten
| Ermächtigung im Fachgesetz zusätzlich zu § 35a VwVfG erweist sich nun
| jedoch als erhebliche Bremse für den KI-Einsatz, besonders bei
| Ermessensspielräumen. Hier kollidiert der ursprüngliche Kontrollanspruch
| mit dem dringenden Modernisierungsbedarf.
|
| *Deutschlands Verwaltung am Limit*
|
| Die Diskussion um § 35a VwVfG trifft auf eine Verwaltungswirklichkeit,
| die von erheblichen Kapazitätsengpässen geprägt ist. Monatelange
| Wartezeiten, Antragsstaus bei Beihilfestellen und Personaldefizite in
| Sozialämtern sind symptomatisch für diese Situation. Diese Überlastung
| ist Teil einer breiteren Modernisierungsherausforderung, bei der
| Initiativen wie das Onlinezugangsgesetz (OZG) die Erwartungen oft nicht
| erfüllen konnten.
|
| Trotz des politischen Willens zur Entbürokratisierung und
| bereitgestellter Mittel gestaltet sich der Fortschritt mühsam. Die
| Restriktionen des § 35a VwVfG wirken hier als handfestes Hindernis für
| die Nutzung von KI zur dringend benötigten Effizienzsteigerung.
|
| Gerade in standardisierten Massenverfahren, die Ermessensspielräume
| beinhalten, könnte KI entlastend wirken. Das strikte Verbot bei
| jeglicher Form von Ermessensausübung verschärft hier bestehende Probleme.
|
| *Gelenktes Ermessen: Die Grauzone der Verwaltungspraxis*
|
| Die strikte Dichotomie des § 35a VwVfG ignoriert die Verwaltungspraxis,
| in der Ermessensentscheidungen häufig durch Verwaltungsvorschriften,
| interne Richtlinien und Kriterienkataloge strukturiert und
| standardisiert werden. Dies ist gängige Praxis in Massenverfahren, um
| eine einheitliche Ausübung des Ermessens sicherzustellen und
| Sachbearbeiter anzuleiten.
|
| Diese administrative Praxis führt dazu, dass der Entscheidungsspielraum
| in vielen Bereichen erheblich gelenkt wird. Die Entscheidung nähert sich
| faktisch einer gebundenen Entscheidung an, auch wenn formal ein Ermessen
| eingeräumt ist. § 35a VwVfG berücksichtigt nicht die Bandbreite von
| hochstrukturiertem, fast regelgebundenem Ermessen bis hin zu weitem
| Abwägungsspielraum.
|
| Dabei übersieht die Norm, dass sich stark strukturiertes Ermessen oft
| leichter algorithmisch abbilden lässt als manche gebundene Entscheidung,
| die auf unbestimmten Rechtsbegriffen beruht.
|
| *Chancen und Risiken abwägen*
|
| Moderne KI-Systeme können komplexe Muster erkennen und natürliche
| Sprache verarbeiten. Ihre Grenzen und Risiken müssen jedoch beachtet
| werden. KI arbeitet probabilistisch, nicht logisch-deduktiv. Ergebnisse
| basieren auf statistischen Mustern in den Trainingsdaten, was Risiken
| wie Fehler und die Übernahme von Vorurteilen aus diesen Daten birgt.
|
| Menschliches Urteilsvermögen, Empathie und ein Verständnis für den Zweck
| der Entscheidung bleiben unersetzlich. Es bedarf daher einer
| Differenzierung: KI kann als Werkzeug dienen, etwa bei der Vorprüfung
| oder in Standardfällen. Eine menschliche Prüfung ist jedoch zwingend
| erforderlich, insbesondere bei atypischen Fällen oder hoher
| Grundrechtsrelevanz. Erfahrungen aus dem Rechtsmarkt zeigen
| Effizienzgewinne, aber auch Haftungsrisiken und die Notwendigkeit
| menschlicher Kontrolle.
|
| Der risikobasierte Ansatz der EU-KI-Verordnung erscheint in diesem
| Kontext interessant. Je höher das Risiko einer Anwendung, desto strenger
| die Anforderungen. Diese Maßgabe unterscheidet sich von § 35a VwVfG, der
| pauschal die Automatisierung bei Ermessensentscheidungen verbietet,
| unabhängig vom Risiko im Einzelfall. Das deutsche Recht steht hier
| möglicherweise nicht mehr im Einklang mit der europäischen
| Regulierungsphilosophie.
|
| *Differenzierung statt Totalverbot*
|
| Eine überfällige Reform des § 35a VwVfG sollte das pauschale
| Automatisierungsverbot für Ermessensentscheidungen durch einen
| differenzierten Ansatz ersetzen.
|
| Kern wäre die gesetzliche Unterscheidung zwischen strukturiertem
| Ermessen und echtem Abwägungsermessen. Für strukturiertes Ermessen
| könnte KI unter strengen Voraussetzungen zugelassen werden; dies trüge
| der Verwaltungspraxis Rechnung und könnte erhebliche Effizienzpotenziale
| heben. Genuine Ermessensentscheidungen, die eine umfassende menschliche
| Abwägung erfordern, blieben hingegen dem Automatisierungsverbot
| unterworfen, um den Kern menschlicher Verantwortung zu schützen.
|
| Die Umsetzung einer solchen Reform sollte behutsam und schrittweise
| erfolgen, idealerweise flankiert durch wissenschaftlich begleitete
| Pilotprojekte in sorgfältig ausgewählten Verwaltungsbereichen. Geeignet
| wären etwa Teile der Leistungsverwaltung mit hohen Fallzahlen,
| standardisiertem Ermessen und überschaubarer Grundrechtsrelevanz, um
| wertvolle Erkenntnisse zu Effizienzgewinnen, Fehlerquoten und Akzeptanz
| zu sammeln. Langfristiges Ziel könnte ein hybrides Modell sein: KI
| bearbeitet Routinefälle, während sich Sachbearbeiter auf atypische
| Konstellationen konzentrieren.
|
| *Mut zur Anpassung für eine zukunftsfeste Verwaltung*
|
| Fest steht jedenfalls schon jetzt: In seiner aktuellen Fassung wird §
| 35a VwVfG den Realitäten und Möglichkeiten des digitalen Zeitalters
| nicht mehr gerecht. Das pauschale Automatisierungsverbot bei
| Ermessensentscheidungen, basierend auf einem überholten
| Technologieverständnis, hemmt dringend benötigte Effizienzsteigerungen.
|
| Nötig ist eine differenzierte Regelung, die den KI-Einsatz bei
| strukturiertem Ermessen unter klaren Bedingungen erlaubt. Essentiell
| sind robuste Sicherungsmechanismen – Transparenz, wirksame menschliche
| Kontrolle und effektive Korrekturmöglichkeiten.
+--- </hier abknabbern> ---

©<https://www.lto.de/recht/hintergruende/h/kuenstliche-intelligenz-ki-verwaltung-35a-vwvfg-ermessen-automatisiert-verwaltungsakt>

	M.f.G.

-- 
Diese E-Mail-Adresse wird nur aus nostalgischen Gründen verwendet. Sie
wird praktisch nie gelesen.  Das MausNet ist nicht tot – es riecht nur
etwas komisch... ;-)

[toc] | [prev] | [next] | [standalone]

#664126

Am 20.05.26 um 01:30 schrieb Martin Ebert:
> Ich habe für unmöglich gehalten, dass jemand sowas ernsthaft
> erwägt. Wegen "Bürger hat ein Recht auf nachvollziehbare,
> durch Menschen ... Einzelfall..." und so weiter.
> 
> Es ging schneller als in meinen schlimmsten Träumen:
> 
> "Laut Herrmann sieht der Entwurf auch vor, dass behördliche
>   Ermessensentscheidungen künftig von einer Künstlichen
>   Intelligenz getroffen werden können."
> 
> Quelle:
> <https://www.deutschlandfunk.de/pflicht-fuer-beglaubigte-kopien- 
> abgeschafft-102.html>
> 

Pfff...

was glaubst Du was hinter der medizinischen "Primärversorgung" steht? 
Nicht "Primärarztversorgung", wie sich die Hausärzte schon freuten.
Und "digitale Ersteinschätzung".

Dahinter steht ein Chatcomputer und Algorithmus der Krankenkasse , den 
du überzeugen mußt einen Arzt sehen zu dürfen, oder eben auch nicht.

"Das sind nicht die Druiden die ihr sucht."  Kein Tippfehler.

-- 
Ammersee
Meer braucht's ned

[toc] | [prev] | [next] | [standalone]

#664129

Am 20.05.2026 um 08:32 schrieb Dr. Joachim Neudert:

> 
> was glaubst Du was hinter der medizinischen "Primärversorgung" 
> steht? Nicht "Primärarztversorgung", wie sich die Hausärzte schon 
> freuten. Und "digitale Ersteinschätzung".
> 
> Dahinter steht ein Chatcomputer und Algorithmus der Krankenkasse , 
> den du überzeugen mußt einen Arzt sehen zu dürfen, oder eben auch 
> nicht.
> 
> "Das sind nicht die Druiden die ihr sucht."  Kein Tippfehler.
> 

Na, da muss es schon bei einer Ersteinschätzung bleiben. Für eine
Kommune habe ich letzten Sommer eine "Catch-All-Adresse" programmiert
(PHP, MariaSQL). Der Support konnte nur dadurch kontaktiert werden (bei
Chefs leider schwer durchzusetzen).

Eine DSGVO-konforme KI (Mistral) ruft die Mails ab, weist auf ihr System
hin und gibt eine Ersteinschätzung zum Problem ab. Die Anfrage wird aber
trotzdem mit Antwort der KI in einer Datenbank gespeichert und später
vom Support abgerufen.

Zuerst waren alle am Meckern. Danach stellte der Support fest, dass die
Ersteinschätzungen etwa 40 % der Leute geholfen hat. IT ist keine
Raketenwissenschaft. Zumal immer noch Leute anrufen, weil sich die Maus
plötzlich nicht mehr bewegt oder im Browser eine 404-Meldung kommt.

Wir überlegen, Schulungselemente einzubauen. Außerdem soll die KI bald
die Datenbank als Wissensbasis nutzen. Natürlich ohne Auswertungen wie
"Dieser User ist der Dümmste".

FW

[toc] | [prev] | [next] | [standalone]

#664161

Am 20.05.26 um 09:18 schrieb F. W.:

> Danach stellte der Support fest, dass die Ersteinschätzungen etwa 40 
> % der Leute geholfen hat.

Wenn man bedenkt, dass die Leute den Support kontaktieren,
weil sie ein Problem haben, dann erscheint mir 40% nicht
so viel. Direkter gesagt: Erschreckend wenig.

[toc] | [prev] | [next] | [standalone]

#664162

Am 21.05.2026 um 00:57 schrieb Martin Ebert:

> Am 20.05.26 um 09:18 schrieb F. W.:
> 
>> Danach stellte der Support fest, dass die Ersteinschätzungen etwa 
>> 40 % der Leute geholfen hat.
> 
> Wenn man bedenkt, dass die Leute den Support kontaktieren, weil sie 
> ein Problem haben, dann erscheint mir 40% nicht so viel. Direkter 
> gesagt: Erschreckend wenig.
> 

Wir haben die Grenze sehr hoch gesetzt. Die KI durfte nicht alle Fälle
lösen. Vermutlich hätten wir ohne diese Grenze 60 - 80 % lösen können.

Aber wie gesagt: die Chefs wollten den "persönlichen Kontakt" nicht
missen. Wie teuer das ist, kann man kaum erläutern.

FW

[toc] | [prev] | [next] | [standalone]

#664163

F. W. schrieb :

>
> Wir haben die Grenze sehr hoch gesetzt. Die KI durfte nicht alle Fälle
> lösen. Vermutlich hätten wir ohne diese Grenze 60 - 80 % lösen können.

Das klingt ja schon nach Dr.Bauers DAU GPT..:-)

Grüsse
Frank

[toc] | [prev] | [next] | [standalone]

#664168

On Thu, 21 May 2026 07:07:05 F. W. wrote:
>>> Danach stellte der Support fest, dass die Ersteinschätzungen
>>> etwa 40 % der Leute geholfen hat.
 
> Aber wie gesagt: die Chefs wollten den "persönlichen Kontakt"
> nicht missen. Wie teuer das ist, kann man kaum erläutern.

Hängt davon ab. In Deinem Fall war es eine Behörde, und da haben die
Kunden in der Regel wenig Alternativen - man kann mit beliebig
schlechtem Service also beliebig viel Geld sparen.

In der Privatwirtschaft spart man auf diese Weise zwar auch, wird
aber irgendwann merken, dass auch die Einnahmen nicht mehr so
sprudeln.

Servus,
   Stefan

-- 
http://kontaktinser.at/ - die kostenlose Kontaktboerse fuer Oesterreich
Offizieller Erstbesucher(TM) von mmeike

Stefan - der verkrampftste Erfolg, den es je geben wird.
(Sloganizer)

[toc] | [prev] | [next] | [standalone]

#664171

Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) posted:

> On Thu, 21 May 2026 07:07:05 F. W. wrote:
> >>> Danach stellte der Support fest, dass die Ersteinschätzungen
> >>> etwa 40 % der Leute geholfen hat.
>  
> > Aber wie gesagt: die Chefs wollten den "persönlichen Kontakt"
> > nicht missen. Wie teuer das ist, kann man kaum erläutern.
> 
> Hängt davon ab. In Deinem Fall war es eine Behörde, und da haben die
> Kunden in der Regel wenig Alternativen - man kann mit beliebig
> schlechtem Service also beliebig viel Geld sparen.

Jein, denn Konten erfolgreicher Rechtsbehelfe
können ggf. auf die Behörde überwälzt werden.

Man hörte von KI-Einsatz bei Beihilfestellen,
da aber ist wenig mit Ermessen.

Gruß, ULF

[toc] | [prev] | [standalone]

Back to top | Article view | ger.ct

csiph-web