Hallo zusammen,
ich würde Euch gerne meinen Projektantrag kredenzen und freue mich über jedes Feedback.




1. Projektbezeichnung

Planung und Implementierung einer lokal gehosteten KI-Lösung zur datenschutzkonformen Unterstützung interner Prozesse.

1.1 Ausgangssituation

Die Platzhalter GmbH nutzt derzeit keine Künstliche Intelligenz zur Unterstützung interner Arbeitsprozesse. Informationen, Dokumentationen und interne Wissensressourcen sind zwar zentral verfügbar, müssen jedoch manuell recherchiert werden, was je nach Bedarf zu zusätzlichem Zeitaufwand im Arbeitsalltag führt.

Der Einsatz cloudbasierter öffentlicher KI-Dienste wie ChatGPT, etc. ist aufgrund datenschutzrechtlicher Anforderungen, insbesondere im Umgang mit sensiblen personenbezogenen Daten, nicht oder nur stark eingeschränkt möglich. Eine datenschutzkonforme Nutzung externer KI-Dienste kann aktuell nicht gewährleistet werden.

Derzeit existiert bei der Platzhalter GmbH keine technische Infrastruktur, um KI-Modelle lokal zu betreiben und den Mitarbeitenden sicher zur Verfügung zu stellen. Eine DSGVO-konforme Nutzung von KI ist derzeit nicht möglich.

1.2 Zielsetzung

Ziel des Projektes ist die Planung, Implementierung und Bereitstellung einer lokal gehosteten Künstlichen Intelligenz, die innerhalb der bestehenden IT-Infrastruktur betrieben wird.

Nach Abschluss des Projektes soll:

• Ein Server auf Basis von Linux eingerichtet und konfiguriert sein,

• ein lokal betriebenes Model-Serving-Framework muss installiert und betriebsbereit sein,

• der Zugriff für autorisierte Nutzer über das interne Netzwerk möglich sein,

• die Lösung vollständig ohne externe Cloud-Dienste betrieben werden,

• eine stabile, wartbare und datenschutzkonforme Systemarchitektur vorliegen,

• eine technische Dokumentation zur Nutzung und Administration erstellt sein.

 

Die Lösung soll Mitarbeitenden bei der Informationsbeschaffung sowie internen Abläufen unterstützen und gleichzeitig den Anforderungen an Datenschutz und IT-Sicherheit des Unternehmens gerecht werden.

 

1.3 Konsequenzen bei Nichtverwirklichung

Bei einer Nichtumsetzung des Projekts würden bestehende Prozessineffizienzen bestehen bleiben. Eine Verbesserung der internen Abläufe sowie eine Reduzierung des Arbeitsaufwands wäre nicht zu erwarten.
Zudem stünde keine datenschutzkonforme, lokal betriebene KI-Lösung zur Verfügung, wodurch die Möglichkeiten zur intelligenten Nutzung der in Nextcloud gespeicherten Daten ungenutzt blieben und Arbeitsprozesse in VS Code weiterhin nicht durch KI-gestützte Automatisierungen oder Code-Assistenz optimiert werden könnten.

 

2. Projektumfeld/Rahmenbedingungen

Kriterien für den erfolgreichen Abschluss

 

Organisatorisch:

• Durchführung des Projektes im Rahmen der Umschulung zum Fachinformatiker für Systemintegration

• Betreuung durch den Ausbildungsbetrieb Platzhalter GmbH

• Abstimmung mit Herrn Platzhalter hinsichtlich Anforderungen und Zugriffsrechten

Technisch:

• Betrieb innerhalb der bestehenden lokalen IT-Infrastruktur

• Einsatz eines Linux-Servers

• Installation und Betrieb des Model-Serving-Frameworks als lokal ausführbare Software

• Zugriff über eine interne Weboberfläche bzw. Netzwerkdienste

• Zugriffsbeschränkung auf autorisierte Benutzer innerhalb des internen Netzwerks

• Einhaltung der geltenden Datenschutz- und Sicherheitsrichtlinien

Art des Projektes

Reales Projekt in Produktiv-Umgebung

 

Art des eigenen Unternehmens

XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX, mit eigener interner IT-Abteilung.

 

Die Durchführung des Projektes erfolgt:

Als IT-Abteilung internes Projekt, als Kunde gilt also die IT-Abteilung, bzw. stellvertretend deren Leiter.

 

Beim Ort des Projektes handelt es sich um:

Informationstechnische Abteilung der Platzhalter GmbH

 

Welche fachlichen Entscheidungen werden durch Sie persönlich im Projektablauf getroffen und in der Projektdokumentation begründet?

 

• Auswahl des Model-Serving-Frameworks anhand von Verwaltbarkeit, Kosten und Funktionsumfang.

 

 

3. Projektplanung/Projektphasen/geplante Arbeitsschritte inklusive Zeitplanung

Zeitplanung I: Planung & Durchführung

 

Planung (18 Std.)

• 1. Anforderungsgespräch mit dem Auftraggeber (Erstellung Lastenheft)
   Erfassung der fachlichen und technischen Anforderungen an eine lokal betriebene KI-Lösung, insbesondere im Hinblick auf Datenschutz, Nutzerzugriffe und Einsatzmöglichkeiten. (2 Std.)

• IST-Analyse der bestehenden IT-Infrastruktur
   Analyse der vorhandenen Server-, Netzwerk- und Sicherheitsstruktur sowie der aktuellen Arbeitsprozesse im Umgang mit internen Informationen. (3 Std.)

• SOLL-Konzept / Soll-Ist-Analyse
   Gegenüberstellung des IST-Zustandes mit dem geplanten SOLL-Zustand, Definition der Zielarchitektur für den Betrieb der KI-Lösung. (3 Std.)

• Begründete Auswahl der KI-Softwarelösung
   Bewertung lokal betreibbarer KI-Lösungen und Entscheidung für den Einsatz eines Model-Serving-Frameworks unter Berücksichtigung von Datenschutz, Wartbarkeit und Integrationsfähigkeit. (3 Std.)

• Erarbeitung des Server-, Sicherheit- und Zugriffskonzeptes
   Planung der Serverstruktur auf Basis von Linux, Definition von Zugriffsrechten, Netzwerkfreigaben und grundlegenden Sicherheitsmaßnahmen. (3 Std.)

• 2. Abstimmungsgespräch mit dem Auftraggeber (Erstellung Pflichtenheft)
   Vorstellung und Freigabe des Soll-Konzeptes sowie der geplanten Umsetzungsschritte. (2 Std.)

• Definition messbarer Kriterien zur Zielüberprüfung
    Festlegung, anhand welcher Kriterien die erfolgreiche Umsetzung des Projektes bewertet wird. (2 Std.)

 

 

Messbare Kriterien zur Zielerreichung

• Die KI-Lösung wird vollständig lokal auf einem Linux-Server betrieben.

• Es findet keine Kommunikation mit externen Cloud-Diensten statt.

• Der Zugriff ist ausschließlich für autorisierte Nutzer im internen Netzwerk möglich.

• Die KI ist funktionsfähig und kann Anfragen zur internen Informationsunterstützung verarbeiten.

• Eine vollständige technische Dokumentation liegt vor.

 

Durchführung(22h)

• Installation und Grundkonfiguration des Linux-Servers
    Einrichtung des Betriebssystems inklusive grundlegender Sicherheits- und Netzwerkeinstellungen. (4 Std.)

• Installation und Konfiguration der KI-Software

Einrichtung der KI-Umgebung, Konfiguration der benötigten Dienste und Vorbereitung für den produktiven Einsatz. (6 Std.)

• Konfiguration von Netzwerk- und Zugriffsbeschränkungen
  Umsetzung der geplanten Zugriffsrechte, Absicherung des Systems innerhalb des internen Netzwerks. (4 Std.)

• Funktionstests der KI-Lösung
  Durchführung von Tests zur Überprüfung der Erreichbarkeit, Funktionalität und Stabilität der KI. (3 Std.)

• Überprüfung der Zielerreichung anhand der definierten Kriterien
  Abgleich der Projektergebnisse mit den zuvor festgelegten messbaren Kriterien. (2 Std.)

• Projektabnahme durch den Auftraggeber
  Vorstellung der Lösung, Abnahme der Umsetzung und Freigabe für den Betrieb. (3 Std.)

Projektphasen / Meilensteine

• Abnahme des Soll- und Sicherheitskonzeptes

• Erfolgreiche Installation und Inbetriebnahme der KI-Lösung

• Erfolgreicher Abschluss der Funktionstests

• Projektabnahme durch den Auftraggeber

 

 

4. Dokumentation/technische Unterlagen

• Projektbeschreibung und Zieldefinition

• IST- und SOLL-Analyse

• Architektur- und Netzwerkskizzen

• Installations- und Konfigurationsdokumentation des Linux-Servers

• Beschreibung der Model-Serving-Framework-Umgebung

• Sicherheits- und Datenschutzbetrachtung

• Benutzer- und Administrationsanleitung

• Zeit- und Projektplanung

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Klares Nein, das wird nichts.

vor 43 Minuten, Thomas.D hat gesagt:

1. Projektbezeichnung

Planung und Implementierung einer lokal gehosteten KI-Lösung zur datenschutzkonformen Unterstützung interner Prozesse.

Es ist ein Arbeitsauftrag. "Implementiere eine KI als Unterstützung" ist der Ansatz. Es ist alles vorgegeben. Es ist keine Problemstellung gegeben. Es gibt keine anderen Ansätze.

vor 46 Minuten, Thomas.D hat gesagt:

Auswahl des Model-Serving-Frameworks anhand von Verwaltbarkeit, Kosten und Funktionsumfang.

Um ehrlich zu sein, es wie die Auswahl zwischen Linux mit LAMP Stack oder Windows mit dem IIS. Es ist keine Auswahl, da die relevante Entscheidung Webserver schon gefallen ist.

Bei der Zeitplanung fehlt die Projektdoku, welche mit ca 8 Stunden deine momentane Planung ziemlich über den Haufen wirft.

vor 28 Minuten, cortez hat gesagt:

Es ist ein Arbeitsauftrag. "Implementiere eine KI als Unterstützung" ist der Ansatz. Es ist alles vorgegeben

Das kann so verstanden werden.

Mit etwas Nachbessern der Formulierungen kann man es aber tauglcih machen.

Ein Model-Serving-Framework ist keine KI-Anwendung, sondern Runtime-Infrastruktur für bereits trainierte Modelle.
Und Bereitstellung, Absicherung und Betrieb einer Plattform ist ein klassische FISI Thema

Ich würde dem Text hinzufügen:
Gegenstand des Projektes ist nicht die Entwicklung oder das Training von KI-Modellen, sondern die Auswahl, Bereitstellung und der sichere Betrieb einer Model-Serving-Infrastruktur als Laufzeitumgebung innerhalb der bestehenden IT-Infrastruktur.

Vergleich und Auswahl eines Model-Serving-Frameworks als Laufzeitumgebung für vortrainierte KI-Modelle, unter Berücksichtigung von:

Administrierbarkeit
Hardware- und Ressourcenanforderungen

Integrationsfähigkeit in bestehende Systeme

Lizenz- und Betriebskosten

(!) Nimm die Info, dass Cloud schon ausgeschlossen wird ganz raus.
Vielleicht sollte man auch den LINUX Server noch nicht erwähnen.

Damit sind deine eigenen fachlichen Entscheidungen

• Analyse und Bewertung möglicher Lösungsansätze (z. B. cloudbasierte Dienste vs. lokaler Betrieb),

• Vergleich und Auswahl eines geeigneten Model-Serving-Frameworks als Runtime-Komponente für vortrainierte KI-Modelle anhand technischer, organisatorischer und wirtschaftlicher Kriterien,

• Festlegung der Server- und Systemarchitektur auf Basis eines Linux-Servers,

• Konzeption eines Sicherheits- und Zugriffskonzeptes unter Berücksichtigung der Datenschutzanforderungen,

• Definition messbarer Kriterien zur Bewertung der Zielerreichung.
  
  Auf alle Fälle wäre es höchst interessant, die Reaktion der Kölner IHK zu testen.
  

Bearbeitet vor 3 Stunden3 h von hellerKopf