Hallo zusammen,
ich würde Euch gerne meinen Projektantrag kredenzen und freue mich über jedes Feedback.




1. Projektbezeichnung

Planung und Implementierung einer lokal gehosteten KI-Lösung zur datenschutzkonformen Unterstützung interner Prozesse.

1.1 Ausgangssituation

Die Platzhalter GmbH nutzt derzeit keine Künstliche Intelligenz zur Unterstützung interner Arbeitsprozesse. Informationen, Dokumentationen und interne Wissensressourcen sind zwar zentral verfügbar, müssen jedoch manuell recherchiert werden, was je nach Bedarf zu zusätzlichem Zeitaufwand im Arbeitsalltag führt.

Der Einsatz cloudbasierter öffentlicher KI-Dienste wie ChatGPT, etc. ist aufgrund datenschutzrechtlicher Anforderungen, insbesondere im Umgang mit sensiblen personenbezogenen Daten, nicht oder nur stark eingeschränkt möglich. Eine datenschutzkonforme Nutzung externer KI-Dienste kann aktuell nicht gewährleistet werden.

Derzeit existiert bei der Platzhalter GmbH keine technische Infrastruktur, um KI-Modelle lokal zu betreiben und den Mitarbeitenden sicher zur Verfügung zu stellen. Eine DSGVO-konforme Nutzung von KI ist derzeit nicht möglich.

1.2 Zielsetzung

Ziel des Projektes ist die Planung, Implementierung und Bereitstellung einer lokal gehosteten Künstlichen Intelligenz, die innerhalb der bestehenden IT-Infrastruktur betrieben wird.

Nach Abschluss des Projektes soll:

• Ein Server auf Basis von Linux eingerichtet und konfiguriert sein,

• ein lokal betriebenes Model-Serving-Framework muss installiert und betriebsbereit sein,

• der Zugriff für autorisierte Nutzer über das interne Netzwerk möglich sein,

• die Lösung vollständig ohne externe Cloud-Dienste betrieben werden,

• eine stabile, wartbare und datenschutzkonforme Systemarchitektur vorliegen,

• eine technische Dokumentation zur Nutzung und Administration erstellt sein.

 

Die Lösung soll Mitarbeitenden bei der Informationsbeschaffung sowie internen Abläufen unterstützen und gleichzeitig den Anforderungen an Datenschutz und IT-Sicherheit des Unternehmens gerecht werden.

 

1.3 Konsequenzen bei Nichtverwirklichung

Bei einer Nichtumsetzung des Projekts würden bestehende Prozessineffizienzen bestehen bleiben. Eine Verbesserung der internen Abläufe sowie eine Reduzierung des Arbeitsaufwands wäre nicht zu erwarten.
Zudem stünde keine datenschutzkonforme, lokal betriebene KI-Lösung zur Verfügung, wodurch die Möglichkeiten zur intelligenten Nutzung der in Nextcloud gespeicherten Daten ungenutzt blieben und Arbeitsprozesse in VS Code weiterhin nicht durch KI-gestützte Automatisierungen oder Code-Assistenz optimiert werden könnten.

 

2. Projektumfeld/Rahmenbedingungen

Kriterien für den erfolgreichen Abschluss

 

Organisatorisch:

• Durchführung des Projektes im Rahmen der Umschulung zum Fachinformatiker für Systemintegration

• Betreuung durch den Ausbildungsbetrieb Platzhalter GmbH

• Abstimmung mit Herrn Platzhalter hinsichtlich Anforderungen und Zugriffsrechten

Technisch:

• Betrieb innerhalb der bestehenden lokalen IT-Infrastruktur

• Einsatz eines Linux-Servers

• Installation und Betrieb des Model-Serving-Frameworks als lokal ausführbare Software

• Zugriff über eine interne Weboberfläche bzw. Netzwerkdienste

• Zugriffsbeschränkung auf autorisierte Benutzer innerhalb des internen Netzwerks

• Einhaltung der geltenden Datenschutz- und Sicherheitsrichtlinien

Art des Projektes

Reales Projekt in Produktiv-Umgebung

 

Art des eigenen Unternehmens

XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX, mit eigener interner IT-Abteilung.

 

Die Durchführung des Projektes erfolgt:

Als IT-Abteilung internes Projekt, als Kunde gilt also die IT-Abteilung, bzw. stellvertretend deren Leiter.

 

Beim Ort des Projektes handelt es sich um:

Informationstechnische Abteilung der Platzhalter GmbH

 

Welche fachlichen Entscheidungen werden durch Sie persönlich im Projektablauf getroffen und in der Projektdokumentation begründet?

 

• Auswahl des Model-Serving-Frameworks anhand von Verwaltbarkeit, Kosten und Funktionsumfang.

 

 

3. Projektplanung/Projektphasen/geplante Arbeitsschritte inklusive Zeitplanung

Zeitplanung I: Planung & Durchführung

 

Planung (18 Std.)

• 1. Anforderungsgespräch mit dem Auftraggeber (Erstellung Lastenheft)
   Erfassung der fachlichen und technischen Anforderungen an eine lokal betriebene KI-Lösung, insbesondere im Hinblick auf Datenschutz, Nutzerzugriffe und Einsatzmöglichkeiten. (2 Std.)

• IST-Analyse der bestehenden IT-Infrastruktur
   Analyse der vorhandenen Server-, Netzwerk- und Sicherheitsstruktur sowie der aktuellen Arbeitsprozesse im Umgang mit internen Informationen. (3 Std.)

• SOLL-Konzept / Soll-Ist-Analyse
   Gegenüberstellung des IST-Zustandes mit dem geplanten SOLL-Zustand, Definition der Zielarchitektur für den Betrieb der KI-Lösung. (3 Std.)

• Begründete Auswahl der KI-Softwarelösung
   Bewertung lokal betreibbarer KI-Lösungen und Entscheidung für den Einsatz eines Model-Serving-Frameworks unter Berücksichtigung von Datenschutz, Wartbarkeit und Integrationsfähigkeit. (3 Std.)

• Erarbeitung des Server-, Sicherheit- und Zugriffskonzeptes
   Planung der Serverstruktur auf Basis von Linux, Definition von Zugriffsrechten, Netzwerkfreigaben und grundlegenden Sicherheitsmaßnahmen. (3 Std.)

• 2. Abstimmungsgespräch mit dem Auftraggeber (Erstellung Pflichtenheft)
   Vorstellung und Freigabe des Soll-Konzeptes sowie der geplanten Umsetzungsschritte. (2 Std.)

• Definition messbarer Kriterien zur Zielüberprüfung
    Festlegung, anhand welcher Kriterien die erfolgreiche Umsetzung des Projektes bewertet wird. (2 Std.)

 

 

Messbare Kriterien zur Zielerreichung

• Die KI-Lösung wird vollständig lokal auf einem Linux-Server betrieben.

• Es findet keine Kommunikation mit externen Cloud-Diensten statt.

• Der Zugriff ist ausschließlich für autorisierte Nutzer im internen Netzwerk möglich.

• Die KI ist funktionsfähig und kann Anfragen zur internen Informationsunterstützung verarbeiten.

• Eine vollständige technische Dokumentation liegt vor.

 

Durchführung(22h)

• Installation und Grundkonfiguration des Linux-Servers
    Einrichtung des Betriebssystems inklusive grundlegender Sicherheits- und Netzwerkeinstellungen. (4 Std.)

• Installation und Konfiguration der KI-Software

Einrichtung der KI-Umgebung, Konfiguration der benötigten Dienste und Vorbereitung für den produktiven Einsatz. (6 Std.)

• Konfiguration von Netzwerk- und Zugriffsbeschränkungen
  Umsetzung der geplanten Zugriffsrechte, Absicherung des Systems innerhalb des internen Netzwerks. (4 Std.)

• Funktionstests der KI-Lösung
  Durchführung von Tests zur Überprüfung der Erreichbarkeit, Funktionalität und Stabilität der KI. (3 Std.)

• Überprüfung der Zielerreichung anhand der definierten Kriterien
  Abgleich der Projektergebnisse mit den zuvor festgelegten messbaren Kriterien. (2 Std.)

• Projektabnahme durch den Auftraggeber
  Vorstellung der Lösung, Abnahme der Umsetzung und Freigabe für den Betrieb. (3 Std.)

Projektphasen / Meilensteine

• Abnahme des Soll- und Sicherheitskonzeptes

• Erfolgreiche Installation und Inbetriebnahme der KI-Lösung

• Erfolgreicher Abschluss der Funktionstests

• Projektabnahme durch den Auftraggeber

 

 

4. Dokumentation/technische Unterlagen

• Projektbeschreibung und Zieldefinition

• IST- und SOLL-Analyse

• Architektur- und Netzwerkskizzen

• Installations- und Konfigurationsdokumentation des Linux-Servers

• Beschreibung der Model-Serving-Framework-Umgebung

• Sicherheits- und Datenschutzbetrachtung

• Benutzer- und Administrationsanleitung

• Zeit- und Projektplanung

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Bearbeitet vor 6 Stunden6 h von mapr

Klares Nein, das wird nichts.

vor 43 Minuten, Thomas.D hat gesagt:

1. Projektbezeichnung

Planung und Implementierung einer lokal gehosteten KI-Lösung zur datenschutzkonformen Unterstützung interner Prozesse.

Es ist ein Arbeitsauftrag. "Implementiere eine KI als Unterstützung" ist der Ansatz. Es ist alles vorgegeben. Es ist keine Problemstellung gegeben. Es gibt keine anderen Ansätze.

vor 46 Minuten, Thomas.D hat gesagt:

Auswahl des Model-Serving-Frameworks anhand von Verwaltbarkeit, Kosten und Funktionsumfang.

Um ehrlich zu sein, es wie die Auswahl zwischen Linux mit LAMP Stack oder Windows mit dem IIS. Es ist keine Auswahl, da die relevante Entscheidung Webserver schon gefallen ist.

Bei der Zeitplanung fehlt die Projektdoku, welche mit ca 8 Stunden deine momentane Planung ziemlich über den Haufen wirft.

vor 28 Minuten, cortez hat gesagt:

Es ist ein Arbeitsauftrag. "Implementiere eine KI als Unterstützung" ist der Ansatz. Es ist alles vorgegeben

Das kann so verstanden werden.

Mit etwas Nachbessern der Formulierungen kann man es aber tauglcih machen.

Ein Model-Serving-Framework ist keine KI-Anwendung, sondern Runtime-Infrastruktur für bereits trainierte Modelle.
Und Bereitstellung, Absicherung und Betrieb einer Plattform ist ein klassische FISI Thema

Ich würde dem Text hinzufügen:
Gegenstand des Projektes ist nicht die Entwicklung oder das Training von KI-Modellen, sondern die Auswahl, Bereitstellung und der sichere Betrieb einer Model-Serving-Infrastruktur als Laufzeitumgebung innerhalb der bestehenden IT-Infrastruktur.

Vergleich und Auswahl eines Model-Serving-Frameworks als Laufzeitumgebung für vortrainierte KI-Modelle, unter Berücksichtigung von:

Administrierbarkeit
Hardware- und Ressourcenanforderungen

Integrationsfähigkeit in bestehende Systeme

Lizenz- und Betriebskosten

(!) Nimm die Info, dass Cloud schon ausgeschlossen wird ganz raus.
Vielleicht sollte man auch den LINUX Server noch nicht erwähnen.

Damit sind deine eigenen fachlichen Entscheidungen

• Analyse und Bewertung möglicher Lösungsansätze (z. B. cloudbasierte Dienste vs. lokaler Betrieb),

• Vergleich und Auswahl eines geeigneten Model-Serving-Frameworks als Runtime-Komponente für vortrainierte KI-Modelle anhand technischer, organisatorischer und wirtschaftlicher Kriterien,

• Festlegung der Server- und Systemarchitektur auf Basis eines Linux-Servers,

• Konzeption eines Sicherheits- und Zugriffskonzeptes unter Berücksichtigung der Datenschutzanforderungen,

• Definition messbarer Kriterien zur Bewertung der Zielerreichung.
  
  Auf alle Fälle wäre es höchst interessant, die Reaktion der Kölner IHK zu testen.
  

Bearbeitet Gestern um 19:011 Tag von hellerKopf

vor 12 Stunden, Thomas.D hat gesagt:

1. Projektbezeichnung

Planung und Implementierung einer lokal gehosteten KI-Lösung zur datenschutzkonformen Unterstützung interner Prozesse.

Vorgegeben, Lösung steht im Titel. Was ist das Problem?
Bin bei @cortez spätestens bei:

vor 12 Stunden, Thomas.D hat gesagt:

1. Einsatz eines Linux-Servers

2. Installation und Betrieb des Model-Serving-Frameworks als lokal ausführbare Software

3. Zugriff über eine interne Weboberfläche bzw. Netzwerkdienste

Hier stehen alle Betriebsvoraussetzungen. Ich mutmaße auf "Mach KI mit Dienst-/Tool xy" -> Arbeitsauftrag. Du sollst aber ein lösungsoffenes Projekt beantragen.
Du kennst das Problem, aber noch nicht das Lösungs(produkt). Wobei das Produkt (Software in deinem Fall) eher zweitranging ist. Welche Alternativen zur KI gibt es, und was Kosten diese im Vergleich? (Nicht nur Anschaffung! Auch Einführung (Personell, Schulung Mitarbeitende....) sowie im Betrieb (Wartung, Nutzung der Lösungen im Vergleich zu Nicht-KI-Lösungen oder der aktuellen Lösung...).

vor 11 Stunden, hellerKopf hat gesagt:

Mit etwas Nachbessern der Formulierungen kann man es aber tauglcih machen.

Ein Model-Serving-Framework ist keine KI-Anwendung, sondern Runtime-Infrastruktur für bereits trainierte Modelle.
Und Bereitstellung, Absicherung und Betrieb einer Plattform ist ein klassische FISI Thema

Hier bin ich bei @hellerKopf :

vor 11 Stunden, hellerKopf hat gesagt:

(!) Nimm die Info, dass Cloud schon ausgeschlossen wird ganz raus.
Vielleicht sollte man auch den LINUX Server noch nicht erwähnen.

Das sind Punkte, die sich mit der Lösungswahl ergeben. Außer du hast eine reine Linux-Umgebung im Serverumfeld. Dann wäre das ein SOLL-Kriterium (muss auf-/mit XY funktionieren).

Wenn du die vorher genannten Punkte und diese inhaltlich beachtest, wird das was.

Zur Zeitplanung: Überdenke diese. Regel ist 10/20/10: 10 Planung, 20 Durchführung (inkl. Auswahl der Lösung) und 10 Nachbereitung (Projektabschluss, Abnahme, Doku, Admin-/Kundendoku).