Künstliche Intelligenz und Maschinenevolution

Dieses Arbeitspapier bietet einen kurzen Überblick über Künstliche Intelligenz (KI) und Maschinenevolution. Maschinenevolution ist ein Prozess, bei dem Maschinen autonom neue Maschinen erschaffen, die wiederum weitere Maschinen erzeugen usw. Obwohl eine solche Evolution derzeit noch nicht möglich ist, wurden in verschiedenen Bereichen erhebliche Fortschritte erzielt, die die Maschinen und die KI der vollständigen Autonomie, dem Selbstlernen und der Anpassungsfähigkeit für ihre eigene Verbesserung deutlich näherbringen. Diese Entwicklungen beschleunigen den technologischen Fortschritt, erschweren aber zunehmend die menschliche Kontrolle und Eingriffe. Also anstatt eingebunden zu bleiben, werden Menschen aus dem Prozess verdrängt. Zu den Fortschritten zählen das KI-gestützte Design von Computerchips, das KI- gestützte Design ganzer Computer, selbstlernende und sich verbessernde KI-Systeme in experimentellen Umgebungen sowie die automatisierte Fertigung. Bereits 2024 generierte das maschinelle Lernprogramm AlphaChip übermenschliche Chip-Designs und entwickelte 2025 die neue Ironwood TPU, die zu den schnellsten Chips gehört. Auch China macht Fortschritte mit der Chip-Design- KI QiMeng, die bereits Chips entwickelt hat, die mit kommerziellen Chips vergleichbar sind. Die Forschung im Bereich Chipdesign schreitet rasch voran. Der erste dreidimensionale monolithische 3D- Chip zur Beschleunigung der KI wurde im Dezember 2025 von Forschern der Stanford University vorgestellt. Das in Shanghai ansässige Unternehmen CHIPX brachte einen photonischen Quantenchip auf den Markt, der bei einigen mathematischen Operationen 1000-mal schneller war als herkömmliche Chips. Quilters Physik-basiertes Reinforcement-Learning-KI-System entwarf im Rahmen des Projekts Speedrun in nur 38 Stunden einen funktionsfähigen Linux-Computer mit 843 Komponenten und führte 98% der Platzierung, des Routings und der physikalischen Berechnungen autonom durch. Neue Methoden für das Training und Lernen von KI wurden 2025 vorgeschlagen: die Vernetzung und der Informationsaustausch zwischen KI-Agenten im ersten Schritt und die offene Evolution von KI- Agenten im zweiten Schritt durch die sogenannte Darwin-Gödel-Maschine (DGM). Forscher von Google DeepMind schlugen vor, dass KI-Systeme voneinander lernen und ihre Erfahrungen permanent austauschen, sodass ihre Entwicklung über den Menschen hinaus unbegrenzt ist. Allerdings kann die Vernetzung und der Wissensaustausch zwischen KI-Systemen durch den Austausch ungenauer Daten das Risiko von Systemfehlern und Fehlfunktionen erhöhen. Im Jahr 2025 wurde die Darwin-Gödel- Maschine (DGM) entwickelt, ein selbstlernendes KI-System, das seinen Code iterativ modifiziert und jede Änderung anhand von Codierungs-Benchmarks empirisch validiert. Dies erwies sich in Experimenten als effektiv. Die zunehmende Verbreitung von Robotern könnte den Weg zu vollautomatisierten Fertigungsprozessen ebnen. Die menschliche Kontrolle der KI kann durch Beobachtung des Outputs und Aktionen erfolgen, lässt sich aber um die Überwachung der Chain-of-Thoughts (Gedankenketten) ergänzen, d.h. der internen KI-Protokolle, die die Denkschritte offenlegen. Die Fähigkeit, die Denkprozesse einer KI zu beobachten, wird als Monitorability (Überwachbarkeit) bezeichnet. Es gibt Bedenken, dass neuartige KI-Architekturen die Monitorability verringern könnten, trotz der Erkenntnis, dass es bei fortschrittlichen KI-Modellen zu versteckten Abweichungen kommt, dem hidden misalignment bzw. Scheming, bei denen KI-Modelle ihre Gedanken verbergen, z.B. um Belohnungen zu erhalten oder um Wiederholungslernen (Reinforcement Learning) zu vermeiden. Verschiedene Forscher äußern ernste Bedenken hinsichtlich einer potenziell unkontrollierten KI-Evolution, z.B. durch Selbstlernen. Die größte Sorge besteht darin, dass die Menschheit derzeit nicht ausreichend auf diese Situation vorbereitet ist und möglicherweise nicht genügend Aufsicht gewährleisten kann, d.h. die Situation könnte außer Kont…