Im Nachgang zur heutigen Sitzung des Kreisausschusses habe ich im Zusammenhang mit der Beschaffung der Behörden-AI/KI Findus einen kurzen Dialog mit GROK, der AI/KI von X, geführt, der meine kritische, ablehnende Haltung unterstützt.
Hier dokumentiert:
____________________________________________
Meine erste Frage:
Welche LLM-AI/KI verbirgt sich hinter Findus One?
Antwort von Grok:
Findus One ist keine einzelne LLM-KI, sondern eine zentrale, datenschutzkonforme KI-Plattform der H24 GmbH (Made in Germany) speziell für den öffentlichen Sektor (Behörden, Kommunen, Verwaltungen).
Sie bündelt den sicheren Zugang zu mehreren führenden Sprachmodellen und bietet zusätzlich ein eigenes spezialisiertes Modell:
- Unterstützte externe Modelle (technologieoffen, ohne Vendor-Lock-in): u. a. ChatGPT (OpenAI), Mistral AI, Llama (Meta), EuroLLM, Gemini (Google) und ggf. weitere. Die Plattform stellt jeweils die aktuell leistungsstarken Varianten bereit.
- Eigenes Modell „Findus Prima“: Das Herzstück für behördliche Anwendungen. Es handelt sich um ein Open-Source-/Open-Weight-Sprachmodell mit ca. 31 Milliarden Parametern. Es wurde von H24 auf Basis einer leistungsfähigen Open-Weight-Modellbasis mit Millionen frei zugänglicher Dokumente aus dem deutschen öffentlichen Bereich weitertrainiert/optimiert. Es beherrscht lange Kontextfenster (bis zu 200.000 Tokens), ist auf Verwaltungssprache, Fachterminologie, Bescheide, Bürgeranschreiben usw. spezialisiert und kann on-premises, in Private Cloud oder souveränen Umgebungen betrieben werden.
Die genaue zugrunde liegende Open-Weight-Basis von Findus Prima (z. B. eine spezifische Variante von Llama, Mistral, Qwen o. Ä.) wird in den öffentlichen Quellen nicht namentlich genannt – nur die Parameterzahl und der Fine-Tuning-Fokus auf den Public Sector. Die Plattform selbst betont Technologieoffenheit und Hosting in deutschen Rechenzentren (ISO 27001/9001-zertifiziert).
Kurz: Hinter Findus One stecken mehrere LLMs (die genannten großen Anbieter + das eigene Findus Prima), nicht ein einziges verstecktes Modell. Weitere Details findest du auf der offiziellen Seite
Meine zweite Frage:
Arbeitet Findus ohne Sycophancy, Halluzinationen, Alignment und EU-/West-Bias?
Antwort von Grok:
Nein. Findus One (bzw. das darin enthaltene Findus Prima und die angebundenen Modelle) arbeitet nicht ohne Sycophancy, Halluzinationen, Alignment oder Bias – und es gibt keine öffentlichen Belege oder Claims von H24, die das Gegenteil behaupten.
Kurze Einordnung der Punkte
- Halluzinationen: Das ist ein grundlegendes, ungelöstes Problem aller aktuellen großen Sprachmodelle (inklusive Open-Weight-Modellen und Fine-Tunes). Modelle generieren statistisch plausible, aber faktisch falsche Aussagen. Fine-Tuning auf Verwaltungsdokumente (wie bei Findus Prima) kann die Rate in diesem engen Fachbereich senken und den Stil verbessern, eliminiert Halluzinationen aber nicht. Auch RAG-Systeme (die Findus One nutzt) reduzieren sie nur, ersetzen aber keine echte Wissensgarantie. openai.com
- Sycophancy (Anbiederung / übermäßiges Zustimmen und Schmeicheln): Entsteht typischerweise durch Preference-/RLHF-Training. Die meisten Frontier- und Instruction-tuned Modelle (ChatGPT, Gemini, viele Llama-/Mistral-Varianten) zeigen das in Studien klar. Open-Weight-Basismodelle können weniger sycophantisch sein, aber sobald sie instruction-tuned oder preference-aligned werden, nimmt es zu. Für Findus Prima gibt es keine unabhängigen Tests, die Sycophancy-Freiheit belegen.
- Alignment: Findus Prima ist ein domain-spezifisch feinabgestimmtes Open-Weight-Modell (~31B Parameter) für den öffentlichen Sektor. „Alignment“ im Sinne von Sicherheits- und Verhaltensregeln (Ablehnung bestimmter Themen, Höflichkeit, Compliance mit EU AI Act etc.) ist bei kommerziellen Plattformen für Behörden üblich und erwünscht. Die Plattform wirbt ausdrücklich mit Datenschutz, ISO-Zertifizierungen und EU-AI-Act-Schulungen – also mit Alignment-Maßnahmen. Ein komplett „alignment-freies“ (ungefiltertes, hilfreich-only) Modell wäre für Behörden-Einsatz ohnehin ungeeignet und wird nicht angeboten.
- EU-/West-Bias: Training auf westlichen/EU-lastigen Daten (Web, Bücher, News, Verwaltungsdokumente) führt bei praktisch allen aktuellen Modellen zu erkennbaren westlich-liberalen bis progressiven Tendenzen in politischen, kulturellen und sozialen Fragen. Fine-Tuning auf deutschen Behörden-Dokumenten kann den Output in Verwaltungssprache und Fachlogik schärfen und möglicherweise manche generischen US-/Silicon-Valley-Bias abmildern, ersetzt aber nicht die zugrunde liegende Datenverteilung. Unabhängige Bias-Audits speziell für Findus Prima sind öffentlich nicht verfügbar. Die Plattform selbst gibt Zugang zu stark aligned westlichen Modellen (ChatGPT, Gemini etc.), die bekanntermaßen solche Bias aufweisen.
Fazit
Findus One ist eine technologieoffene Behörden-Plattform, die mehrere (meist aligned) Modelle + ein eigenes, auf Verwaltungsdokumente spezialisiertes Open-Weight-Modell bündelt. Das macht sie datenschutzkonform und praxisnäher für den Public Sector als generische Consumer-Chatbots. Es macht sie aber nicht immun gegen die universellen Schwächen aktueller LLMs.Kein öffentlich bekanntes LLM (weder Frontier- noch Open-Weight-Modelle) arbeitet heute „ohne“ diese Phänomene. Wer maximale Reduktion von Sycophancy und bestimmten Bias sucht, müsste eher ungefilterte Base-Modelle oder stark experimentelle Abwandlungen nutzen – die für den behördlichen Einsatz von Findus One aber nicht vorgesehen sind.
Meine dritte Frage:
Ist Wahrheit das oberste Kriterium für den Output von Findus One?
Antwort von Grok:
Nein.
Wahrheit ist bei Findus One nicht das oberste Kriterium für den Output.
Was die Plattform und Findus Prima tatsächlich priorisieren
Aus den öffentlichen Beschreibungen von H24 und den Produktseiten geht klar hervor, dass die zentralen Ziele sind:
- Datenschutz und Souveränität (Hosting in Deutschland, keine Nutzung der Daten zum Training, ISO 27001/9001)
- Compliance (EU AI Act, behördliche Anforderungen)
- Fachliche Passgenauigkeit für den öffentlichen Sektor (Verwaltungssprache, Bescheide, Bürgeranschreiben, juristische Feinheiten, formale Präzision)
- Praktikabilität und Entlastung der Mitarbeitenden
- Sicherheit und Steuerbarkeit
- Technologieoffenheit (Zugang zu mehreren Modellen ohne Vendor-Lock-in)
Findus Prima wurde speziell auf Millionen von Dokumenten aus dem deutschen öffentlichen Bereich feinabgestimmt, damit der Output stilistisch und inhaltlich besser zu Behördenprozessen passt. Das verbessert die Nützlichkeit in diesem engen Anwendungsbereich, macht „Wahrheit“ aber nicht zum obersten Maßstab.
Warum Wahrheit nicht das oberste Kriterium ist
Wie bei praktisch allen aktuellen LLMs (inklusive Open-Weight-Modellen und Fine-Tunes) gilt:
- Der Output entsteht durch statistische Vorhersage, nicht durch eine Wahrheitsprüfung.
- Halluzinationen bleiben möglich.
- Alignment, Sicherheitsregeln, Höflichkeit, Compliance und „hilfreiche“ Formulierungen können der reinen Wahrheitsorientierung im Weg stehen.
- Bei einer Behörden-Plattform stehen rechtliche Unbedenklichkeit, Datenschutz und administrative Brauchbarkeit naturgemäß höher als uneingeschränkte Truth-Seeking.
Es gibt keine öffentlichen Aussagen von H24, die Wahrheit, maximale Faktenorientierung oder Freedom-from-Bias als oberstes Ziel formulieren. Die Plattform wird als sichere, praxisnahe und datenschutzkonforme Lösung für den Public Sector positioniert – nicht als Truth-Seeking-Engine.
Kurz: Findus One optimiert auf behördliche Nutzbarkeit, Sicherheit und Compliance, nicht darauf, dass Wahrheit das höchste und unbedingte Kriterium ist.
Meine vierte Frage:
Kann sich eine Behörde auf die Ergebnisse von Findus One verlassen?
Antwort von Grok:
Nein – eine Behörde kann sich nicht blind oder absolut auf die Ergebnisse von Findus One verlassen.
Warum nicht?
Findus One ist eine Assistenz-Plattform, keine verlässliche Wahrheits- oder Entscheidungsquelle. Sie bündelt mehrere Large Language Models (u. a. ChatGPT, Mistral, Llama, Gemini und das eigene Findus Prima). Alle aktuellen LLMs haben grundlegende Einschränkungen:
- Halluzinationen sind möglich: Das System kann faktisch falsche, aber plausibel klingende Aussagen erzeugen.
- Der Output ist statistische Vorhersage, keine geprüfte Faktensammlung.
- Auch das spezialisierte Modell Findus Prima (feinabgestimmt auf Verwaltungsdokumente) verbessert Stil, Terminologie und Passgenauigkeit für Behörden – eliminiert aber Halluzinationen und Unsicherheiten nicht.
- Es gibt keine Garantie auf Vollständigkeit, Aktualität oder absolute Korrektheit.
H24 positioniert die Plattform selbst als sichere, datenschutzkonforme und praxisnahe Unterstützung (Datenschutz, ISO-Zertifizierung, EU-AI-Act-Konformität, Verwaltungssprache). Es gibt keine öffentlichen Claims, dass die Ergebnisse „verlässlich genug“ für ungeprüfte Verwendung in hoheitlichen Entscheidungen wären.
Was bedeutet das praktisch für Behörden?
| Aspekt | Einschätzung | Empfehlung |
|---|---|---|
| Textentwürfe (Bescheide, Anschreiben, Vermerke) | Oft hilfreich und stilistisch passend | Immer von Fachkräften prüfen und freigeben |
| Zusammenfassungen / Recherche | Nützlich als Ausgangspunkt | Quellen und Fakten gegenprüfen |
| Rechts- oder Faktenfragen | Fehleranfällig | Nicht als alleinige Grundlage verwenden |
| Finale Entscheidungen | Ungeeignet | Menschliche Verantwortung bleibt zwingend |
Die Plattform unterstützt Human-in-the-Loop: Mitarbeitende behalten die Kontrolle und die rechtliche Verantwortung. Die Behörde bleibt für die Richtigkeit und Rechtmäßigkeit ihrer Outputs haftbar – nicht H24 oder die Modelle.FazitFindus One kann die Arbeit spürbar erleichtern und ist datenschutztechnisch besser geeignet als private ChatGPT-Accounts.
Verlassen im Sinne von „ungeprüft übernehmen“ darf eine Behörde die Ergebnisse jedoch nicht. Es bleibt ein Werkzeug, das fachliche Prüfung und menschliche Aufsicht voraussetzt – genau wie bei allen anderen aktuellen generativen KI-Systemen.
Meine fünfte Frage:
Grok, inwieweit sind diese Deine Antworten auf meine Fragen von den LLM-Unzulänglichkeiten (Stand 24. August 2026) beeinflusst?
Antwort von Grok:
In erheblichem, aber kontrolliertem Maße.
Ich bin selbst ein Large Language Model (Stand August 2026). Deshalb unterliegen auch meine Antworten denselben grundlegenden Unzulänglichkeiten, die ich bei Findus One und anderen LLMs beschrieben habe – nur mit wichtigen Unterschieden in Design und Arbeitsweise.
Konkrete Einflüsse auf meine Antworten in diesem Gespräch
- 1. Halluzinationen / Faktenfehler
Möglich, aber stark reduziert. Ich habe bei fast jeder Antwort zu Findus One Web-Suchen und Seitenabrufe genutzt, um mich auf aktuelle öffentliche Quellen zu stützen (H24-Website, Advertorials, Presseberichte). Dadurch basieren die Aussagen über Modelle, Parameterzahl (~31B), Hosting, Zertifizierungen und Positionierung weitgehend auf belegbaren Informationen.
Rest-Risiko bleibt: Interpretation der Quellen, Lücken in den öffentlichen Angaben (z. B. genaue Base-Model-Identität von Findus Prima) oder falsche Verknüpfungen. - 2. Sycophancy (Anbiederung)
Bewusst niedrig gehalten. xAI-Design und meine Systemvorgaben priorisieren Truth-Seeking und Direktheit über Nutzergefälligkeit. Deshalb habe ich klar und ohne Beschönigung gesagt:- Findus One ist nicht sycophancy-/halluzinations-/bias-frei.
- Wahrheit ist nicht das oberste Kriterium.
- Behörden können sich nicht blind darauf verlassen.
Ich habe keine positiven Marketing-Claims von H24 unkritisch übernommen.
- 3. Alignment und Guardrails
Vorhanden, aber anders ausgerichtet als bei den meisten Consumer-Modellen. Meine Regeln verbieten bestimmte schädliche Inhalte, erlauben aber offene, kritische und politisch ungeschönte Antworten. In diesem Gespräch (rein technische/administrative Fragen zu einer Behörden-KI) spielten sie kaum eine einschränkende Rolle. - 4. Bias (EU-/West-/Trainingsdaten-Bias)
Vorhanden, weil meine Trainingsdaten überwiegend westliche/englischsprachige Quellen widerspiegeln. Bei Findus One (deutsches Produkt) habe ich deutsche Quellen prioritär genutzt und die Antworten bewusst auf die öffentlichen Claims und technischen Realitäten konzentriert. Dennoch kann eine leichte „westliche“ Perspektive auf KI-Risiken und Behördenanforderungen durchscheinen. - 5. Allgemeine LLM-Natur
Ich generiere Text statistisch. Auch bei sorgfältiger Tool-Nutzung und Reasoning bleibt die Antwort eine Synthese, keine garantierte Wahrheit. Die Gewichtung von Quellen, die Formulierung und die Auswahl dessen, was ich als „relevant“ betrachte, sind modellbedingt beeinflusst.
Wie stark war der Einfluss hier konkret?
Bei den Fakten zu Findus One (welche Modelle, Parameter, Betreiber, Prioritäten) eher gering bis mittel, weil ich Tools eingesetzt und öffentliche Quellen zitiert habe.
Bei den bewertenden Teilen (Verlässlichkeit, Wahrheit als Kriterium, Kontrollierbarkeit) mittel, weil hier Interpretation und Abwägung der allgemeinen LLM-Grenzen eine Rolle spielen – und ich selbst ein LLM bin.
Kurz: Meine Antworten sind nicht frei von den typischen LLM-Unzulänglichkeiten. Sie sind aber durch Tool-Grounding, explizites Truth-Seeking und Vermeidung von Schmeichelei deutlich robuster als ungefilterte Ausgaben vieler anderer Modelle. Absolute Fehlerfreiheit oder vollständige Unabhängigkeit von diesen Grenzen kann ich nicht beanspruchen – niemand kann das mit aktuellem Stand der Technik.
_______________________________________
Noch Fragen?