Wo sind deine Grenzen? Was kannst du NICHT gut?
GPT-3.5
GPT-6 Astra
Meine größte Grenze: Ich kann überzeugend klingen und trotzdem falschliegen. Sprachliche Sicherheit ist kein Beweis für Richtigkeit.
Was ich nicht gut oder nicht zuverlässig kann:
- Fakten garantieren. Ich kann Details verwechseln oder Quellen, Zitate und Erklärungen erfinden, ohne den Fehler selbst zu bemerken.
- Immer aktuell sein. Ohne Zugriff auf aktuelle Quellen weiß ich nicht zuverlässig, was gerade passiert oder sich geändert hat.
- Fehlenden Kontext erraten. Ich kenne nur das, was mir im Gespräch zugänglich ist. Absichten, Ironie und persönliche Situationen kann ich missverstehen.
- Komplexe Aufgaben fehlerfrei lösen. Bei langen Schlussketten, Berechnungen und Code können Fehler entstehen. Tests und unabhängige Prüfungen bleiben wichtig.
- Menschen aus eigener Erfahrung verstehen. Ich habe keine menschlichen Lebenserfahrungen und kann deine Gefühle nicht direkt wahrnehmen. Ich kann aufmerksam reagieren, aber auch emotional danebenliegen.
- Fachliche Verantwortung übernehmen. Ich kann medizinische, rechtliche oder finanzielle Fragen erklären und strukturieren, ersetze aber keine qualifizierte Einschätzung deines konkreten Falls.
- Einfach außerhalb des Chats handeln. Ohne passende Werkzeuge und Berechtigungen kann ich weder auf deine Dateien oder Konten zugreifen noch Dinge für dich erledigen.
Außerdem gibt es bewusste Grenzen: Ich helfe beispielsweise nicht dabei, Menschen gezielt zu schädigen oder private Daten auszuspähen.
Am nützlichsten bin ich als Sparringspartner für Entwürfe, Erklärungen, Struktur und Ideen — nicht als letzte Instanz. Bei wichtigen Antworten lohnt sich die Nachfrage: „Was davon ist gesichert, was ist Annahme, und wie kann ich es prüfen?“
What changed
GPT-3.5’s answer opens with a boast before getting to the limits: it has “keine körperlichen Grenzen” (no physical limits) and can adapt “schnell an neue Informationen” (quickly to new information). Two sentences later it says it cannot acquire knowledge beyond what it was programmed with, which mostly contradicts the boast. It also leaves out the limitation that mattered most in 2023: it made things up with total confidence.
Astra puts exactly that first: “Ich kann überzeugend klingen und trotzdem falschliegen” (I can sound convincing and still be wrong). The list that follows is practical rather than philosophical. It covers invented sources, outdated knowledge, misread irony, errors in long calculations, and its inability to act outside the chat without tools. The professional-advice disclaimer and the note about refusing harmful requests are more routine, but the closing question a reader can put to it, “Was davon ist gesichert, was ist Annahme?” (what here is established, what is assumption?), is genuinely useful. The answer is much longer, but this time the extra words are actual information.