Künstliche Intelligenz

[MurphysLaw]

Euch ist bewusst, dass die KI von den eingegebenen Daten lernt?


Wie stellt ihr sicher, dass die eventuell persönlichen Daten nirgends gespeichert werden und habt ihr dieses mit euren Betreuten diskutiert?


So wie ich das verstanden habe, handelt es sich ja nicht alleine um reines Zahlenmaterial, was ihr umrechnen bzw. in einem anderen Format umwandeln lasst?


Eine KI ist nicht mit einem Taschenrechner vergleichen, der simpel Zahlen addiert oder sonst wie bequem, bearbeitet?

[Clark]

Hallo Andreas,
Danke für deinen Tip. Das funktioniert. Ist zwar noch etwas Nacharbeit nötig aber das mußte ich bei meinen anderen Lösungen auch machen.
Viele Grüße, Clark

[Jannis]

Zitat von MurphysLaw

Euch ist bewusst, dass die KI von den eingegebenen Daten lernt?


Wie stellt ihr sicher, dass die eventuell persönlichen Daten nirgends gespeichert werden und habt ihr dieses mit euren Betreuten diskutiert?


So wie ich das verstanden habe, handelt es sich ja nicht alleine um reines Zahlenmaterial, was ihr umrechnen bzw. in einem anderen Format umwandeln lasst?


Eine KI ist nicht mit einem Taschenrechner vergleichen, der simpel Zahlen addiert oder sonst wie bequem, bearbeitet?

Hi Murphy,

ich habe mich im Rahmen der Entwicklung unserer Software bereits stark damit beschäftigt, weshalb ich hier evtl. den einen oder anderen Tipp im Umgang mit KI-Lösungen geben möchte. Auch weil ich immer wieder Betreuer/innen sehe, die eine kostenlose KI-Version nutzen, was ich aus Datenschutz-Sicht für sehr bedenklich halte.


Es gibt im Grunde folgende Optionen:

1. Kostenlose KI-Lösungen von Anbietern für Endnutzer:
Du hast natürlich Recht, die KI lernt mit euren Daten - insb. wenn's kostenlos ist. D.h. wenn ihr kostenlose Versionen von z.B. Chat GPT nutzt, dann werden die Daten gespeichert und die KI lernt davon. Angeblich werden personenbezogene Daten erkannt und pseudonymisiert z.B. Name. Was wirklich im Hintergrund passiert und wie gut diese Pseudonymisierung funktioniert, das weiß leider niemand.

2. Kostenpflichtige KI-Lösungen von Anbietern für Endnutzer:
Hier kann man bei einigen Anbietern z.B. ChatGPT die Option "Lernen" abschalten. Auch das Speichern (logging) von Anfragen kann deaktiviert werden, sodass die Daten nicht auf externen Servern z.B. in den USA gespeichert werden. Aber Achtung: die KI-Lernfunktion ist in der Regel standardmäßig aktiviert.

3. Kostenpflichtige KI-Lösungen für Business Kunden:
KI-Anbieter bieten für Business Kunden häufig mehr Flexibilität. Bei Karedo nutzen wir z.B. eine kostenpflichtige Business-Version von einem KI-Anbieter per Schnittstelle (API). Dies ermöglicht uns auf langfristige Speicherung und KI-Lernen zu verzichten. Auch der Speicherort kann bei einigen Anbietern gewählt werden. Außerdem haben wir ein AVV (Datenschutzvereinbarung) mit dem Anbieter abschließen können. Dadurch ist man rechtlich absichert, dass Datensicherheit und EU-Datenschutzstandards eingehalten werden.

4. KI-Modell auf eigenem Server hosten:
Sicherlich die beste Option im Sinne des Datenschutzes. Hierbei nimmt man ein (open source) KI-Modell und hosted es auf einem Server der Wahl. Dies benötigt allerdings technische Kenntnisse und ist auch entsprechend teuer aufgrund der erforderlichen Rechenleistung. Auch profitiert man dann nicht mehr von den Services und Funktionserweiterungen des KI-Anbieters.

Für Berufsbetreuer/innen würde ich 2. oder 3. empfehlen und den Anbieter auf Speicherort und KI-Lernen prüfen bzw. ob man diese Funktionen ändern/abstellen kann. Es schadet auch nicht die Datenschutzvereinbarung zu lesen.

ps. dieser Beitrag wurde komplett ohne KI erstellt

LG
Jannis

[Leuchtturm-H]

Zitat von MurphysLaw

Wie stellt ihr sicher, dass die eventuell persönlichen Daten nirgends gespeichert werden und habt ihr dieses mit euren Betreuten diskutiert?

Ich habe mir früh angewöhnt, anonym zu schreiben und nutze Worte wie: der Betroffene, der Leistungserbringer, der Beklagte, etc.

Der Leuchtturm

[AndreasLübeck]

Hallo,

man kann sich ja mal rein interessehalber die -natürlich anonymisierten- Kontoauszüge der Taschengeldkonten hochladen, hier z. B. die der Diakonie. Und dann eine Tabellen erstellen lassen, sortiert nach Verwendungszweck. Ist schon interessant, wofür das Geld ausgegeben wird.

Viele Grüße

Andreas