„Human-like AI“: Meta stellt I-JEPA vor – die erste KI, die wie Menschen und Tiere lernen soll

Die Welt durch Vorhersagen verstehen: Das kann I-JEPA

Meta hat ein neues Paper veröffentlicht, das im Detail die Funktionalität von I-JEPA darlegt. Auf dem eigenen AI Blog werden allerdings auch einige ausgewählte Vorzüge des Modells vorgestellt. So soll dieses Aufgaben im Bereich der Computer Vision besonders gut bewältigen können. Meta erklärt:

The representations learned by I-JEPA can also be used for many different applications without needing extensive fine tuning. For example, we train a 632M parameter visual transformer model using 16 A100 GPUs in under 72 hours, and it achieves state-of-the-art performance for low-shot classification on ImageNet, with only 12 labeled examples per class. Other methods typically take two to 10 times more GPU-hours and achieve worse error rates when trained with the same amount of data.

Das Modell lernt laut LeCun und Meta ähnlich wie Menschen und auch Tiere – durch das Beobachten und Aufnehmen von Datenpunkten aus der Welt um sie herum. Auf dem Blog heißt es, diese Art vom Common Sense Knowledge könne intelligentes Verhalten begründen. Das neue Meta-KI-Modell kann zum Beispiel anhand von einzelnen Teilen eines Input-Elements (ein Bild oder ein Text) das wahrscheinliche Erscheinungsbild dieses Elements vorhersagen. Anders als andere KI-Modelle soll I-JEPA auf abstrakte Weise lernen und nicht einfach auf Pixelbasis eine Erweiterung produzieren. Auf diese Weise soll ein Lernprozess einsetzen, der die Limitierung von generativer KI in anderen Modellen überwindet.

Gen AI in Overdrive:

Bing kommt zu ChatGPT, Firefly zu Photoshop

I-JEPA soll auf einer abstrakten Ebene, gleich dem generellen Verständnis von Menschen, Input ausfüllen können. Mithilfe von semantischen Kontexten kann das Modell Visuals auch anhand von Bruchteilen in einer naheliegenden Repräsentation aufzeigen.

In short, I-JEPA is able to learn high-level representations of object parts without discarding their localized positional information in the image.

Für die Zukunft sieht der Konzern die Möglichkeit, das Modell JEPA auch im Kontext von Videos, Audio oder Text einzusetzen, um ein Verständnis der Inhalte auf KI-Basis zu ermöglichen. So kann das KI-Modell weiter lernen wie ein Mensch – und basierend auf dem erworbenen Wissen nicht nur Vorhersagen treffen, sondern auch komplexe Aufgaben übernehmen; und zwar eigenständig, im Sinne des Common Sense Knowledge.

Der Digital Bash EXTREME – AI geht in Runde 2! Lerne beim AI Marketing Bootcamp am 29.06. mehr, um mit KI unersetzbar zu werden! Nutze jetzt unseren Rabatt-Code ART20X, um bei diesem Event 20 Prozent zu sparen!

Digital Bash EXTREME – AI Marketing Bootcamp