Fetch AI und SingularityNET bündeln ihre Kräfte, um KI-Halluzinationen zu bekämpfen und die dezentrale KI voranzutreiben

Einführung

Fetch AI und SingularityNET haben sich in einer Vereinbarung zusammengeschlossen, die sich auf die Lösung des Problems der KI-Halluzinationen und die Verbesserung der Zuverlässigkeit von Systemen der künstlichen Intelligenz konzentriert. Da große Sprachmodelle (LLMs) dazu neigen, ungenaue oder irrelevante Ergebnisse zu erzeugen, zielt diese Zusammenarbeit darauf ab, diese Hindernisse zu überwinden und eine stärkere Akzeptanz der KI-Technologie zu fördern.

Dezentrale Plattformen und Mehrkomponenten-KI-Systeme

Durch die Nutzung dezentraler Plattformen wie SingularityNET und Fetch können Entwickler mehrkomponentige KI-Systeme zusammenstellen. Diese Systeme nutzen verschiedene Komponenten, die auf separaten Maschinen laufen, sodass kein zentraler Koordinator erforderlich ist. Laut Ben Goertzel, CEO von SingularityNET, bietet dieser Ansatz ein Maß an Flexibilität, das in herkömmlichen zentralisierten KI-Infrastrukturen nicht zu finden ist. Es ermöglicht das Experimentieren mit verschiedenen Konfigurationen, einschließlich neuronal-symbolischer Systeme.

Erweiterte und genaue KI-Modelle

Im Rahmen der Vereinbarung planen Fetch AI und SingularityNET, im Jahr 2024 eine Reihe von Produkten auf den Markt zu bringen, die dezentrale Technologie nutzen, um fortschrittlichere und genauere KI-Modelle zu entwickeln. Diese Zusammenarbeit wird es Entwicklern ermöglichen, auf Tools wie die DeltaV-Schnittstelle von Fetch.ai und die AI-APIs von SingularityNET zuzugreifen und diese zu kombinieren. Auf diese Weise können KI-Entwickler dezentrale, zuverlässige und intelligente Modelle erstellen. Die neuronal-symbolische Integration ist eine Kombination aus neuronalen Netzen und symbolischer KI. Während neuronale Netze aus Daten lernen, basiert die symbolische KI auf klaren Argumentationsregeln. Diese Integration verbessert die Lern- und Entscheidungsfähigkeiten der KI und macht sie anpassungsfähiger, logischer und letztendlich genauer und zuverlässiger. Humayun Sheikh, der Gründer und CEO von Fetch AI, glaubt, dass Halluzinationen zwar ein Problem darstellen, aber auch Chancen für Innovationen innerhalb großer Sprachmodelle bieten.

Die Bedrohung durch KI-Halluzinationen und Deepfakes

Sheikh weist auf die potenzielle Gefahr hin, dass KI-Halluzinationen mit KI-generierten Deepfakes einhergehen. Er glaubt, dass diese Kombination eine erhebliche Bedrohung darstellt, insbesondere da die KI-Fortschritte weiter voranschreiten und die Halluzinationen immer überzeugender werden. Sheikh betont das Problem, dass KI falsche Ideen verstärkt und zu einem „selbsterfüllenden“ Problem wird. Obwohl er die Vorstellung einer Übernahme durch KI ablehnt, betrachtet er dieses Problem als ein großes Problem in der nahen Zukunft. KI-Halluzinationen haben zusammen mit der wachsenden Beliebtheit künstlicher Intelligenz an Aufmerksamkeit gewonnen. Beispiele hierfür sind die fälschliche Anschuldigung eines Juraprofessors durch ChatGPT des Fehlverhaltens und die Einreichung eines Antrags auf ein neues Verfahren, in dem behauptet wird, KI-Halluzinationen hätten zur Verurteilung eines ehemaligen Fugees-Mitglieds geführt. Diese Vorfälle verdeutlichen die Herausforderungen, die Halluzinationen mit sich bringen, insbesondere im Bereich der Inhaltserstellung.

Der Mangel an Transparenz bei der Entwicklung von KI-Modellen

Der Mangel an Transparenz bei der Entwicklung von KI-Modellen trägt zur Schwierigkeit bei der Bekämpfung von Halluzinationen bei. Forscher der Stanford University behaupten, dass die von Unternehmen angestrebte Marktbeherrschung die Bemühungen um Transparenz behindert. Es ist von entscheidender Bedeutung, dieses Problem anzugehen, um eine verantwortungsvolle KI-Entwicklung sicherzustellen. OpenAI, Meta und IBM haben Gruppen gebildet, die sich der Förderung der Transparenz in der KI widmen. OpenAI hat beispielsweise mit anderen Organisationen zusammengearbeitet, um das Frontier Model Forum zu gründen, dessen Ziel es ist, KI-Halluzinationen anzugehen und eine verantwortungsvolle Entwicklung von KI-Modellen zu fördern.

Gemeinsame Bemühungen für eine verantwortungsvolle KI-Entwicklung

IBM und Meta haben sich kürzlich zusammengetan, um die AI Alliance zu gründen, ein Konsortium aus über 50 Unternehmen. Diese Initiative konzentriert sich auf die verantwortungsvolle und transparente Erforschung, Entwicklung und den Aufbau von KI-Modellen. Die von diesen Organisationen erzielten Fortschritte unterstreichen die Bedeutung offener Innovation und Zusammenarbeit im Bereich KI.

Quelle