Wenn Agenten einen Körper bekommen
KI-Agenten arbeiten bislang vor allem am Bildschirm. „Physical AI“ geht weiter: Der Roboter erfasst seine Umgebung mit Kameras und Sensoren. Er versteht eine Aufgabe wie „Stell die Kisten ins Regal“ und führt sie selbst aus. Der klassische Industrieroboter arbeitete hinter einem Schutzzaun ein festes Programm ab. Der neue lernt aus Daten, arbeitet neben Menschen und verhält sich nach einem Update womöglich anders. Das macht ihn rechtlich anspruchsvoll, denn viele Regeln gehen von einer Maschine aus, die immer gleich funktioniert.
Kein Stichtag, sondern eine Abfolge
Mehrere EU-Regelwerke greifen nebeneinander, jedes mit eigenem Takt. Einige gelten bereits, etwa die Meldepflichten für ausgenutzte Sicherheitslücken und die Datenregeln des Data Act für vernetzte Geräte. Bis Dezember 2026 muss Deutschland die neue EU-Produkthaftung umsetzen. Ab Januar 2027 gilt die neue Maschinenverordnung. Ab August 2028 kommen besondere Anforderungen an KI hinzu, die in Maschinen Sicherheitsfunktionen übernimmt.
Sieben Fragen für den Alltag
- Werden wir ungewollt zum Hersteller? Ein Beispiel: Ein Logistikunternehmen rüstet seine Lagerroboter mit der KI-Kamera eines Drittanbieters nach, damit sie Hindernissen selbst ausweichen. Bringt diese vom Hersteller nicht vorgesehene Änderung neue oder größere Gefahren mit sich, kann das Unternehmen selbst als Hersteller gelten. Dann treffen es Sicherheitsprüfung, Dokumentation und CE-Kennzeichnung, im Schadensfall auch die Haftung. Das gilt auch für reine Software-Änderungen.
- Bleibt die Sicherheitsprüfung nach dem Update gültig? Die Sicherheitsbewertung einer Maschine hält fest, welche Gefahren von ihr ausgehen und wie sie beherrscht werden. Bringt ein Update neue Fähigkeiten, ist zu prüfen, ob diese Bewertung noch trägt.
- Wer darf die Daten nutzen, die der Roboter sammelt? Der Hersteller möchte etwa die Fahrdaten aller ausgelieferten Roboter nutzen, um die Navigation zu verbessern. Nach dem Data Act haben die Kund:innen selbst Zugang zu diesen Daten. Reine Maschinendaten darf der Hersteller für eigene Zwecke nur nutzen, wenn das vertraglich vereinbart ist; für Daten über Personen gilt der Datenschutz. Das gehört deshalb in den Kaufvertrag.
- Ist der Betriebsrat eingebunden? Ein Roboter mit Kameras kann auch erfassen, wie schnell Beschäftigte arbeiten. Schon diese Möglichkeit genügt, damit der Betriebsrat mitbestimmen darf. In der Praxis entscheidet deshalb oft die Betriebsvereinbarung, wann der Roboter starten kann, und nicht das CE-Zeichen. Wer filmt, braucht zudem eine Rechtsgrundlage und klare Löschregeln.
- Wer meldet, wenn der Roboter gehackt wird? Wird eine Sicherheitslücke aktiv ausgenutzt, muss der Hersteller binnen 24 Stunden eine erste Meldung an die zuständigen Stellen schicken. Das gilt auch für Geräte, die längst bei Kund:innen im Einsatz sind. Es funktioniert nur, wenn vorher feststeht, wer am Freitagabend entscheidet. Betreiber können zusätzlich eigene Meldepflichten haben.
- Wer haftet, wenn ein Update Schaden anrichtet? Nach der neuen Produkthaftung ist auch Software ein Produkt. Bremst ein Transportroboter nach einem fehlerhaften Update zu spät und verletzt jemanden, kann deshalb auch der Anbieter der Software haften. Zugleich fällt es Geschädigten leichter, ihren Anspruch zu beweisen. Verträge sollten regeln, wer Updates liefert, wie neue Funktionen abgenommen werden und wer in der Lieferkette einsteht.
- Halten unsere Werbeversprechen? „Vollautonom“ klingt gut, wird aber zum Risiko, wenn der Roboter in Wahrheit nur bei guter Beleuchtung und auf ebenem Boden zuverlässig fährt. Übertriebene Aussagen können als irreführende Werbung abgemahnt werden.
Fazit
Wer Robotern mehr Handlungsspielraum gibt, muss die Verantwortung dafür vorher ordnen. Viele Weichen werden schon heute gestellt: bei der Auswahl des Systems, im Kaufvertrag und im Gespräch mit dem Betriebsrat. Wer Technik, Einkauf und Recht früh an einen Tisch holt, sorgt dafür, dass der Rollout nicht am Recht scheitert.