Künstliche Intelligenz kann Computer autonom bedienen - Erfinder setzen Sicherheitsmaßnahmen um, um Katastrophe zu vermeiden

Künstliche Intelligenz kann Computer autonom bedienen - Erfinder setzen Sicherheitsmaßnahmen um, um Katastrophe zu vermeiden

In einer bahnbrechenden Entwicklung haben Wissenschaftler künstliche Intelligenz entwickelt, die in der Lage ist, Computer autonom zu bedienen. Diese Möglichkeit birgt jedoch auch erhebliche Risiken, wie die uneingeschränkte Kontrolle über sensitive Systeme und die mögliche Verursachung von Katastrophen. Um diese Gefahren zu minimieren, haben die Erfinder Sicherheitsmaßnahmen umgesetzt, die die Kontrolle über die künstliche Intelligenz sicherstellen sollen. Die Frage bleibt jedoch, ob diese Maßnahmen ausreichend sind, um die Sicherheit von Mensch und Maschine zu garantieren.

Intelligente Assistenz: Computer können autonom bedient werden

Es ist unbestreitbar, dass der Einfluss der künstlichen Intelligenz das aktuelle Technologieparadigma verändert hat. In den letzten Tagen haben wir Nachrichten aller Art über diese Technologie erhalten, da sie zum Dreh- und Angelpunkt der zukünftigen iPhones von Apple und zum Hauptakteur einer haarsträubenden Geschichte in einem Institut wurde.

Einige Updates waren jedoch so ambitioniert wie der letzte, den Anthropic, eines der wichtigsten Unternehmen im Sektor, bekannt gegeben hat.

Sicherheitsmaßnahmen zum Katastrophenvermeidung

Laut einem Artikel von The Verge hat Anthropic die Funktion Computerbedienung in seinem Modell Claude 3.5 Sonnet freigegeben. Damit kann die künstliche Intelligenz einen Computer ähnlich wie ein Mensch bedienen, indem sie den Bildschirm sieht, den Cursor bewegt, klickt und sogar schreibt.

Die Funktion ist derzeit in öffentlicher Beta-Version über die API verfügbar und ermöglicht es Entwicklern, sie in ihren Anwendungen zu testen.

Laut ersten Testern ist diese Funktion vor anderen ähnlichen Funktionen von Microsoft, Google und OpenAI.

Autonomie in der KI: Neue Funktion ermöglicht Computerbedienung durch AI

Anthropic selbst hat darauf hingewiesen, dass diese Funktion noch experimentell ist und daher fehleranfällig sein kann.

Claude 3.5 verwendet eine Technik namens Flipbook, die es nicht nur ermöglicht, den Bildschirm zu beobachten, sondern auch Screenshots zu erstellen, um zu lernen. Diese Situation kann jedoch zu schnellen Aktionen oder Kurznachrichten führen.

Das Sprachmodell hat auch einige Einschränkungen: Es darf nicht an sozialen Netzwerken teilnehmen, sich nicht in Wahlkampfthemen einmischen und darf keine Domain-Registrierungen durchführen.

Herausforderungen und Chancen

Trotzdem bietet die neue Version von Claude 3.5 bedeutende Verbesserungen bei der Codierung und der Verwendung von Werkzeugen.

In diesen Aufgaben konnte es sein Leistungsniveau im SWE-Benchmark von 33,4% auf 49% steigern und damit andere öffentliche Modelle auf dem Markt überbieten.

Und trotz dieser Verbesserungen hält das Unternehmen den gleichen Preis und die gleiche Geschwindigkeit für Claude 3.5 Sonnet bei, was dieses Modell viel konkurrenzfähiger macht als seine Vorgänger.

Mit diesem Schritt ist die Ära der Autonomie in der künstlichen Intelligenz endlich angekommen.

Quellen:

• The Verge
• Anthropic

Bilder:

• Louis Reed (Unsplash)