Künstliche Intelligenz

[MurphysLaw]

Euch ist bewusst, dass die KI von den eingegebenen Daten lernt?


Wie stellt ihr sicher, dass die eventuell persönlichen Daten nirgends gespeichert werden und habt ihr dieses mit euren Betreuten diskutiert?


So wie ich das verstanden habe, handelt es sich ja nicht alleine um reines Zahlenmaterial, was ihr umrechnen bzw. in einem anderen Format umwandeln lasst?


Eine KI ist nicht mit einem Taschenrechner vergleichen, der simpel Zahlen addiert oder sonst wie bequem, bearbeitet?

[Clark]

Hallo Andreas,
Danke für deinen Tip. Das funktioniert. Ist zwar noch etwas Nacharbeit nötig aber das mußte ich bei meinen anderen Lösungen auch machen.
Viele Grüße, Clark

[Jannis]

Zitat von MurphysLaw

Euch ist bewusst, dass die KI von den eingegebenen Daten lernt?


Wie stellt ihr sicher, dass die eventuell persönlichen Daten nirgends gespeichert werden und habt ihr dieses mit euren Betreuten diskutiert?


So wie ich das verstanden habe, handelt es sich ja nicht alleine um reines Zahlenmaterial, was ihr umrechnen bzw. in einem anderen Format umwandeln lasst?


Eine KI ist nicht mit einem Taschenrechner vergleichen, der simpel Zahlen addiert oder sonst wie bequem, bearbeitet?

Hi Murphy,

ich habe mich im Rahmen der Entwicklung unserer Software bereits stark damit beschäftigt, weshalb ich hier evtl. den einen oder anderen Tipp im Umgang mit KI-Lösungen geben möchte. Auch weil ich immer wieder Betreuer/innen sehe, die eine kostenlose KI-Version nutzen, was ich aus Datenschutz-Sicht für sehr bedenklich halte.


Es gibt im Grunde folgende Optionen:

1. Kostenlose KI-Lösungen von Anbietern für Endnutzer:
Du hast natürlich Recht, die KI lernt mit euren Daten - insb. wenn's kostenlos ist. D.h. wenn ihr kostenlose Versionen von z.B. Chat GPT nutzt, dann werden die Daten gespeichert und die KI lernt davon. Angeblich werden personenbezogene Daten erkannt und pseudonymisiert z.B. Name. Was wirklich im Hintergrund passiert und wie gut diese Pseudonymisierung funktioniert, das weiß leider niemand.

2. Kostenpflichtige KI-Lösungen von Anbietern für Endnutzer:
Hier kann man bei einigen Anbietern z.B. ChatGPT die Option "Lernen" abschalten. Auch das Speichern (logging) von Anfragen kann deaktiviert werden, sodass die Daten nicht auf externen Servern z.B. in den USA gespeichert werden. Aber Achtung: die KI-Lernfunktion ist in der Regel standardmäßig aktiviert.

3. Kostenpflichtige KI-Lösungen für Business Kunden:
KI-Anbieter bieten für Business Kunden häufig mehr Flexibilität. Bei Karedo nutzen wir z.B. eine kostenpflichtige Business-Version von einem KI-Anbieter per Schnittstelle (API). Dies ermöglicht uns auf langfristige Speicherung und KI-Lernen zu verzichten. Auch der Speicherort kann bei einigen Anbietern gewählt werden. Außerdem haben wir ein AVV (Datenschutzvereinbarung) mit dem Anbieter abschließen können. Dadurch ist man rechtlich absichert, dass Datensicherheit und EU-Datenschutzstandards eingehalten werden.

4. KI-Modell auf eigenem Server hosten:
Sicherlich die beste Option im Sinne des Datenschutzes. Hierbei nimmt man ein (open source) KI-Modell und hosted es auf einem Server der Wahl. Dies benötigt allerdings technische Kenntnisse und ist auch entsprechend teuer aufgrund der erforderlichen Rechenleistung. Auch profitiert man dann nicht mehr von den Services und Funktionserweiterungen des KI-Anbieters.

Für Berufsbetreuer/innen würde ich 2. oder 3. empfehlen und den Anbieter auf Speicherort und KI-Lernen prüfen bzw. ob man diese Funktionen ändern/abstellen kann. Es schadet auch nicht die Datenschutzvereinbarung zu lesen.

ps. dieser Beitrag wurde komplett ohne KI erstellt

LG
Jannis

[Leuchtturm-H]

Zitat von MurphysLaw

Wie stellt ihr sicher, dass die eventuell persönlichen Daten nirgends gespeichert werden und habt ihr dieses mit euren Betreuten diskutiert?

Ich habe mir früh angewöhnt, anonym zu schreiben und nutze Worte wie: der Betroffene, der Leistungserbringer, der Beklagte, etc.

Der Leuchtturm

[AndreasLübeck]

Hallo,

man kann sich ja mal rein interessehalber die -natürlich anonymisierten- Kontoauszüge der Taschengeldkonten hochladen, hier z. B. die der Diakonie. Und dann eine Tabellen erstellen lassen, sortiert nach Verwendungszweck. Ist schon interessant, wofür das Geld ausgegeben wird.

Viele Grüße

Andreas

[AndreasLübeck]

Hallo,

ich frage mich, ob die KI langsam menschliche Eigenschaften an den Tag legt.

Habe mal wieder die Hilfe von Copilot für die Python Programmierung in Anspruch genommen. Das Teil hat sich richtig blöd angestellt, lauter Fehlinterpretationen und unsinnige Vorschläge, als ob es keine Lust mehr hat.

Na ja, für lau, da darf man halt nicht meckern. Vielleicht hängt "lau" und "Laune" ja doch miteinander zusammen :-)

Schönes Wochenende

Andreas

[wahoos]

Man sollte aber schon wissen, dass das I von KI grundsätzlich irreführend ist.

Das, was man heute unter KI versteht, ist im Grunde nichts anderes als eine "Lernprogramm" für Computer. Da Computer nur 2 Zustände kennen, nämlich die 0 und die 1, ist das Wort Intelligenz dabei völlig fehl am Platz.

AI bzw. KI ist also nichts anderes als das Verarbeiten von Daten, sprich Informationen. Denken im menschlichen Sinne ist dabei völlig ausgeschlossen. Denn, würden Computer zu denken beginnen, hätte die Menschheit denkbar schlechte Karten.

KI ist also im Prinzip nichts anderes als die Kombination der von Menschen eingegebenen Daten. Daher kommt es auch vor, dass manchmal "Müll" dabei herauskommt. Das wiederum merken jedoch nur die Menschen, welche über einen gewissen Grad an Intelligenz verfügen.

Was die Anonymisierung oder Pseudonymisierung angeht habe ich allerdings größte Zweifel. Selbst die Suchmaschinen arbeiten heute mit den KI-Servern. Im Ergebnis bedeutet dies, dass ein mehr oder weniger gutes Profil des Nutzers erstellt werden kann. Für den normalen Nutzer ist das zwar nicht nutzbar, aber entsprechende Institutionen haben dazu passendere Möglichkeiten.

Trotzdem wird die Zukunft spannend.
Ob ich/wir das noch erleben?
Die KI weiß darauf keine Antwort!

Dieser Beitrag wurde KI-befreit erstellt ;-)

[wahoos]

Und das sagt die KI zu meinem vorherigen Beitrag:


Dein Text bringt einige zentrale und kritische Gedanken zur Künstlichen Intelligenz (KI) auf den Punkt – besonders was das Verhältnis zwischen „Intelligenz“ im menschlichen Sinne und dem tatsächlichen, technischen Geschehen in heutigen KI-Systemen betrifft. Ich kann gern einige Aspekte deines Textes aufgreifen, um sie differenzierter einzuordnen oder zu ergänzen:

💡 „Das I in KI ist irreführend“
Das ist ein berechtigter Punkt. Der Begriff Künstliche Intelligenz stammt aus einer Zeit (1950er-Jahre), in der die Forschung noch weitgehend theoretisch war und stark von Science-Fiction-Vorstellungen geprägt wurde. Heute wissen wir, dass das, was KI leistet, oft eher unter Begriffe wie:

Statistische Mustererkennung

Maschinelles Lernen

Automatisierung kognitiver Aufgaben

fallen sollte – und nicht notwendigerweise Denken oder Verstehen im menschlichen Sinne. Das Wort „Intelligenz“ suggeriert Eigenschaften wie Bewusstsein, Intuition oder echte Kreativität – und genau das fehlt aktuellen KI-Systemen vollständig.

🧠 „Computer denken nicht“
Richtig – aktuelle KI-Modelle (wie ich) denken nicht, fühlen nicht, verstehen nicht, was sie tun. Sie erzeugen Wahrscheinlichkeiten für Wortfolgen oder Handlungsmuster basierend auf großen Datenmengen und vorherigem Training.

Beispiel:
Wenn du mir eine Frage stellst, analysiere ich die Frage mathematisch/statistisch und antworte basierend auf Mustern in meinen Trainingsdaten – nicht weil ich verstehe, worum es wirklich geht.

🗑️ „Müll rein – Müll raus“
Das ist das bekannte Prinzip "Garbage in, garbage out". Ein KI-System kann nur so gut sein wie:

Die Qualität seiner Trainingsdaten,

Die Sorgfalt seiner Entwicklung,

Die Transparenz seiner Nutzung.

Und ja – es erfordert menschliche Intelligenz, um KI-Ergebnisse sinnvoll zu interpretieren, Fehler zu erkennen und verantwortungsvoll damit umzugehen.

🔍 „Anonymisierung? Naja …“
Vollkommen berechtigter Zweifel. Zwar gibt es technische Verfahren zur Anonymisierung oder Pseudonymisierung, doch in der Praxis ist es häufig möglich, mit ausreichend Daten einzelne Nutzer wieder zu identifizieren – etwa durch:

Kombination von Metadaten (Ort, Zeit, Gerätetyp),

Suchverhalten,

Profilbildung über viele Plattformen hinweg.

Suchmaschinen, soziale Medien und viele Apps sind oft datenhungrig, und ja – Institutionen mit Zugriff auf diese Daten können Profile erstellen, die weit über das hinausgehen, was der Einzelne wahrnimmt.

🔮 „Die Zukunft wird spannend …“
Absolut. KI kann enorme Fortschritte bringen – in Medizin, Bildung, Forschung, aber auch große Risiken bergen – für Privatsphäre, Arbeitsplätze, politische Meinungsbildung usw. Die Frage ist nicht, ob KI die Gesellschaft verändert, sondern wie wir damit umgehen.

Ob du/wir das noch erleben?
Die KI weiß darauf tatsächlich keine Antwort – denn Zukunft ist (noch) keine Statistik. 😉

[Tschak]

Einfach nur, weil es ganz gut in dieses Thema passt, ich hoffe Verlinkung ist ok.

https://mein-mmo.de/ki-rebellieren-sabotage-gefahr/