Turing-Award-Gewinner Yang Likun: Der einzige Weg, KI-Plattformen sicher, gut und praktisch zu machen, ist Open Source

Quelle: Das Papier

Reporter Zhang Jing

„Es gibt Leute, die wollen, dass KI generell stark reguliert wird, weil sie Angst vor den Folgen der KI haben. Denn sie sagen, wenn jemand KI beherrschen kann, wenn er mit KI alles machen kann, was er will, dann wird die Situation so sein sehr gefährlich, daher muss es eine strenge Regulierung der KI geben. Ich bin damit überhaupt nicht einverstanden.“

Es hat lange gedauert, bis die Menschen die aktuellen Ethik- und Governance-Mechanismen etabliert hatten. Wenn künstliche Intelligenz wie Menschen Bewusstsein und Intelligenz entwickeln darf, wie können Menschen dann die Anforderungen von Ethik und Regierungsführung erfüllen? Was ist der Mechanismus menschlichen Eingreifens in künstliche Intelligenz?

Am 6. Juli wurde in Shanghai die Weltkonferenz für künstliche Intelligenz 2023 eröffnet. Yann LeCun, Gewinner des Turing Award 2018 und leitender Wissenschaftler für künstliche Intelligenz im Team des Meta AI Basic Artificial Intelligence Research Institute, sagte bei der Eröffnungszeremonie, dass er völlig anderer Meinung sei, „weil jeder künstliche Intelligenz nutzen kann, um alles zu tun.“ kann sehr gefährlich sein.“ Daher muss künstliche Intelligenz streng reguliert werden.“ Langfristig besteht die einzige Möglichkeit, KI-Plattformen sicher, gut und nützlich zu machen, darin, sie als Open Source bereitzustellen.

Yang Likun sprach darüber, wie künstliche Intelligenz intelligent und kontrollierbar wird. „Wenn Sie glauben, dass der Weg zur Erreichung künstlicher Intelligenz auf menschlicher Ebene darin besteht, ein größeres autoregressives LLM (Large Language Model) durchzuführen und dann Datentests mit mehreren Modellen zu verwenden, dann denken Sie vielleicht, dass diese Systeme der künstlichen Intelligenz nicht sicher sind. Aber in Tatsächlich glaube ich nicht, dass dieses System sehr intelligent sein kann. Ich denke, die Art und Weise, wie sie intelligent werden, ist auch der Weg, sie kontrollierbar zu machen, das heißt das Konzept der zielgesteuerten künstlichen Intelligenz. Im Wesentlichen geht es darum, ihnen Ziele zu geben Das muss erreicht werden.“ Yang Likun sagte: „Einige dieser Ziele sind durch die Aufgabe definierte Ziele, wie zum Beispiel: Hat das System die Frage beantwortet?“ Hat das System Ihr Auto gestartet? Hat das System den Tisch gelöscht? Andere Ziele dienen als Sicherheitszäune, beispielsweise um niemanden zu verletzen.

Yang Likun glaubt, dass diese künstlichen Intelligenzsysteme die Menschen nicht durch schrittweise Infiltration täuschen oder dominieren werden. Menschen können sich Ziele setzen, die KIs dazu zwingen, ehrlich zu sein, wie zum Beispiel KIs dazu zu zwingen, sich den Menschen zu unterwerfen, darauf zu achten, sie neugierig zu machen und ihnen Zugriff auf Ressourcen zu gewähren, die sie nicht haben sollten. „Ich denke also, dass diese Systeme vollständig kontrollierbar und manipulierbar sein werden. Systeme können so entworfen werden, dass sie sicher sind, aber das ist nicht einfach. Diese Ziele zu entwerfen und das System sicher zu machen, wird eine große technische Herausforderung sein.“

Aber Yang Likun sagte, dass Menschen es nicht von Anfang an gut entwerfen müssen, sondern damit beginnen können, ein System zu bauen, das so intelligent ist wie eine Maus. Das Ziel des Menschen ist es, daraus eine gute Maus zu machen. „Wir werden sie in eine Sandbox oder eine Simulationsumgebung stellen und sicherstellen, dass sie sicher sind, was ein wichtiges Thema ist, da es einige Leute gibt, die aus Angst generell eine starke Regulierung der KI wünschen.“ über die Folgen von KI. Denn sie sagen, wenn jemand an KI herankommt, wenn er mit KI alles machen kann, was er will, dann könnte die Situation sehr gefährlich sein, also muss es eine strenge Regulierung der KI geben. Das tue ich nicht stimme dem überhaupt zu.“

Im Gegenteil, Yang Likun glaubt, dass Open Source auf lange Sicht die einzige Möglichkeit ist, Plattformen für künstliche Intelligenz sicher, gut und praktisch zu machen. In Zukunft wird jeder über Assistenten der künstlichen Intelligenz mit der digitalen Welt interagieren, und alle menschlichen Informationen müssen über diesen Assistenten der künstlichen Intelligenz geleitet werden. Wenn die Technologie von einigen wenigen Unternehmen kontrolliert wird, ist das keine gute Sache. „Zukünftige KI-Systeme werden der Speicher sämtlichen menschlichen Wissens sein, und die Art und Weise, wie sie trainiert werden, muss auf zahlreichen Quellen basieren. Daher werden wir in Zukunft mehr Open-Source-LLMs und mehr Open-Source-KI-Systeme sehen.“