Q*: das Projekt, das „die Menschheit bedroht“ und Altman seine Entlassung bei OpenAI kostete

Q*: das Projekt, das „die Menschheit bedroht“ und Altman seine Entlassung bei OpenAI kostete

Der umstrittene Abgang und die schnelle Rückkehr von Sam Altman a OpenAI, mit Microsoft-Pass enthaltenwar das wichtigste Thema der letzten Woche an den Märkten. In den letzten Tagen wurden Fragen zu seiner Entlassung geklärt, aber die vielleicht überraschendste Nachricht in dieser Folge hat zu tun mit ein geheimes Projekt innerhalb des Unternehmens für künstliche Intelligenz (KI), das eine große Gefahr für die Welt darstellen könnte.

Einem Bericht der Nachrichtenagentur „Reuters“ zufolge schrieben mehrere Forscher, bevor Altman das Unternehmen verließ, ein Brief an den Vorstand des Unternehmens aus dem Silicon Valley und warnte sie vor den Gefahren einer überstürzten Kommerzialisierung der KI-Technologie, ohne sich über die Folgen im Klaren zu sein Konsequenzen. In diesem Brief warnten die OpenAI-Forscher, dass das Team von Ilya Sutskever, dem ehemaligen Chefwissenschaftler und einem der Architekten von Altmans Entlassung, eine „mächtige Entdeckung künstlicher Intelligenz“ gemacht habe, die „die Menschheit bedrohen könnte“.

Der Brief und dieser Algorithmus, so erklären diese Quellen, waren zwei der Hauptfaktoren, die zu Altmans abrupter Entlassung führten und die ihn schließlich dazu veranlassten fast die gesamte Belegschaft drohte, massenhaft zu kündigen wenn der „Goldjunge“ der AI nicht auf seinen Posten zurückkehren würde.

Es ist zu beachten, dass Die interne Situation von OpenAI ist alles andere als ideal. Ursprünglich wurde das Unternehmen 2015 u. a. von folgenden Personen gegründet, Elon Muskwurde als Non-Profit-Organisation gegründet, die sich zum Ziel gesetzt hat die sichere und ethische KI-Forschung zu fördern. Im Laufe der Jahre und unter der Führung von Altman hat das Unternehmen jedoch mehr zu einem Technologieunternehmen entwickelt, das mehr wieinsbesondere seit der Einführung von GPT-Chat und von seiner Partnerschaft mit Microsoft.

Siehe auch  Wall Street bleibt am Montag wegen des Feiertags Labor Day geschlossen

OpenAI hat zwar nicht auf Medienanfragen reagiert, aber Reuters hat bestätigt, dass Mitarbeiter des Startups eine interne Nachricht erhalten haben, in der die Existenz der so genannten „Projekt Q*“ (ausgesprochen als Q-Star) und dass ein Schreiben verfasst worden war, in dem vor den Gefahren gewarnt wurde. Obwohl die Agentur keinen Zugang zu diesem Dokument hatte, haben interne Quellen bestätigt, dass die Geschäftsführerin Mira Murati in späteren Versionen diese Entwicklung mit Altmans Entlassung in Verbindung gebracht hat.

WAS IST DAS Q*-PROJEKT?

Einige OpenAI-Mitglieder glauben, dass Q* ein wichtiger Durchbruch bei der Suche nach dem so genannten künstlichen allgemeinen Intelligenz (AGI, hat eine solche Person gegenüber Reuters erklärt. OpenAI definiert AGI als autonome Systeme, die den Menschen bei den meisten Aufgaben von wirtschaftlichem Wert übertreffen.

Es besteht also ein grundlegender Unterschied zwischen dem, was Chat GPT tut, und dieser neuen KI. Während Chat GPT und ähnliche Bots den Eindruck erwecken, autonom zu sein, basieren sie auf einer großes Sprachmodell (LLM) und ist, grob gesagt, in der Lage, nach dem Studium von Hunderttausenden von Textseiten mehr oder weniger überzeugende und scheinbar menschenähnliche Antworten zu formulieren. Allerdings, Chat GPT ist nicht in der Lage, logisch zu denken und ein logisches Problem zu lösen.. Stattdessen, Q* in der Lage sein, dies zu tun.

Nach diesen Informationen ist das neue Modell mit umfangreichen IT-Ressourcen ausgestattet, in der Lage gewesen wäre, bestimmte mathematische Probleme zu lösensagte eine Quelle unter der Bedingung der Anonymität. Obwohl er „nur“ mathematische Operationen auf dem Niveau von Grundschülern durchführt, stimmt die Tatsache, dass er diese Tests besteht, die Forscher sehr optimistisch, was den zukünftigen Erfolg von Q* angeht.

Siehe auch  BofA steigert den Optimismus und hebt den Ausblick für den S&P 500 zum Jahresende an

In diesem Sinne glauben die Forscher, dass Mathematik ist die Grenze der Entwicklung der generativen KI. Derzeit ist die generative KI gut darin, Sprachen zu schreiben und zu übersetzen, indem sie das nächste Wort statistisch vorhersagt, und die Antworten auf dieselbe Frage können erheblich variieren. Im Gegensatz dazu würde die Eroberung der Fähigkeit, mathematische Berechnungen durchzuführen, bei denen es nur eine mögliche richtige Antwort gibt, bedeuten, dass die KI Folgendes leisten müsste ein höheres logisches Denkvermögen, das der menschlichen Intelligenz ähnelt.. Dies könnte nach Ansicht von KI-Forschern z. B. für die wissenschaftliche Forschung gelten.

Solche Entwicklungen könnten jedoch eine Gefahr darstellen, wenn sie nicht vollständig verstanden werden, weshalb die Forscher des Unternehmens Berichten zufolge die Kommission alarmiert haben. vor den Folgen einer zu frühen Kommerzialisierung dieser Technologie gewarnt..

Nach dieser Nachricht glauben viele Experten auf dem Gebiet der KI, dass ein solcher Durchbruch in so kurzer Zeit erzielt wurde. ist nicht nur glaubwürdig, sondern auch möglich. Darüber hinaus glauben mehrere Fachmedien, dass Altman diese Entwicklung auf einer kürzlich abgehaltenen Konferenz zur wirtschaftlichen Zusammenarbeit in San Francisco angedeutet hat, indem er einräumte, dass „ich viermal in der Geschichte von OpenAI, zuletzt in den letzten zwei Wochen, die Gelegenheit hatte, in dem Raum zu sein, in dem wir den Schleier des Unwissens zurückschieben und die Grenze der Entdeckung nach vorne verschieben, und dies tun zu können, ist die berufliche Ehre meines Lebens“. Einen Tag nach diesen Erklärungen wurde Altman entlassen.