Wir freuen uns, die Transform 2022 am 19. Juli und virtuell vom 20. bis 28. Juli wieder persönlich zu präsentieren. Nehmen Sie an aufschlussreichen Gesprächen und spannenden Networking-Möglichkeiten teil. Registrieren Sie sich heute!


Die Geschichte der Entwicklung der künstlichen Intelligenz (KI) in den letzten fünf Jahren wurde von der Größenordnung dominiert. Bei der Verarbeitung natürlicher Sprache (NLP), dem Bildverständnis, der Spracherkennung und mehr wurden enorme Fortschritte erzielt, indem Strategien, die Mitte der 2010er Jahre entwickelt wurden, übernommen wurden und mehr Rechenleistung und mehr Daten dahinter steckten. Dies hat zu einer interessanten Machtdynamik bei der Nutzung und Verbreitung von KI-Systemen geführt; eine, die die KI dem Stromnetz sehr ähnlich sieht.

Für NLP ist größer wirklich besser

Der aktuelle Stand der Technik im NLP wird von neuronalen Netzwerken mit Milliarden von Parametern angetrieben, die auf Terabytes von Text trainiert wurden. Um diese Netzwerke einfach im Speicher zu halten, sind mehrere hochmoderne GPUs erforderlich, und das Training dieser Netzwerke erfordert Supercomputer-Cluster, die weit über die Reichweite aller außer den größten Organisationen hinausgehen.

Man könnte unter Verwendung der gleichen Techniken ein deutlich kleineres neuronales Netz mit deutlich weniger Text trainieren, aber die Leistung wäre deutlich schlechter. In der Tat so viel schlimmer, dass es zu einem Unterschied in der Art wird, anstatt nur zu einem Unterschied des Grades; Es gibt Aufgaben wie Textklassifikation, Zusammenfassung und Extraktion von Entitäten, bei denen große Sprachmodelle hervorragend und kleine Sprachmodelle nur zufällig abschneiden.

Als jemand, der seit etwa einem Jahrzehnt mit neuronalen Netzen arbeitet, bin ich von dieser Entwicklung wirklich überrascht. Aus technischer Sicht ist es nicht offensichtlich, dass die Erhöhung der Anzahl von Parametern in einem neuronalen Netzwerk zu einer so drastischen Verbesserung der Leistungsfähigkeit führen würde. Hier sind wir jedoch im Jahr 2022 und trainieren neuronale Netze, die fast identisch mit Architekturen sind, die erstmals 2017 veröffentlicht wurden, aber mit um Größenordnungen mehr Rechenleistung und besseren Ergebnissen.

Dies weist auf eine neue und interessante Dynamik in diesem Bereich hin. State-of-the-Art-Modelle sind für fast jedes Unternehmen – geschweige denn für eine Einzelperson – zu rechenintensiv, um sie zu erstellen oder sogar einzusetzen. Damit ein Unternehmen solche Modelle nutzen kann, muss es eines verwenden, das von jemand anderem erstellt und gehostet wird – ähnlich wie heute Strom erzeugt und verteilt wird.

KI teilen, als wäre es ein gemessenes Dienstprogramm

Jedes Bürogebäude benötigt Strom, aber kein Bürogebäude kann die erforderliche Infrastruktur zur eigenen Stromerzeugung beherbergen. Stattdessen werden sie an ein zentrales Stromnetz angeschlossen und zahlen für den Strom, den sie verbrauchen.

Auf die gleiche Weise kann eine Vielzahl von Unternehmen von der Integration von NLP in ihren Betrieb profitieren, obwohl nur wenige über die Ressourcen verfügen, um ihre eigenen KI-Modelle zu erstellen. Genau aus diesem Grund haben Unternehmen große KI-Modelle erstellt und diese über eine einfach zu bedienende API verfügbar gemacht. Durch die Bereitstellung einer Möglichkeit für Unternehmen, sich an das sprichwörtliche NLP-Stromnetz anzuschließen, amortisieren sich die Kosten für die Schulung dieser hochmodernen Modelle im großen Maßstab für verschiedene Kunden, wodurch ihnen der Zugang zu dieser Spitzentechnologie ermöglicht wird , ohne die modernste Infrastruktur.

Nehmen wir als konkretes Beispiel an, ein Unternehmen, das Rechtsdokumente speichert, möchte eine Zusammenfassung jedes Dokuments in seinem Besitz anzeigen. Sie könnten ein paar Jurastudenten einstellen, um jedes Dokument einzeln zu lesen und zusammenzufassen, oder sie könnten ein neuronales Netzwerk nutzen. Große neuronale Netze, die mit dem Arbeitsablauf eines Jurastudenten zusammenarbeiten, würden die Effizienz bei der Zusammenfassung drastisch steigern. Eines von Grund auf neu zu schulen, würde jedoch um Größenordnungen mehr kosten, als einfach mehr Jurastudenten einzustellen, aber wenn das Unternehmen über eine netzwerkbasierte API Zugang zu einem hochmodernen neuronalen Netzwerk hätte, könnten sie es tun Schließen Sie sich an das KI-„Stromnetz“ an und zahlen Sie für die Zusammenfassungsnutzung.

Diese Analogie hat einige interessante Implikationen, wenn wir ihr bis zu ihrem logischen Extrem folgen. Strom ist ein Versorgungsunternehmen, wie Wasser und Verkehrsinfrastruktur. Diese Dienste sind für das Funktionieren unserer Gesellschaft so entscheidend, dass sie in Ontario (von wo aus ich schreibe) erfolgreich von Kronkorporationen (im Besitz und unter der Aufsicht der Bundes- oder Provinzregierungen) unterhalten werden. Diese Kronkorporationen sind nicht nur für die Infrastruktur und den Vertrieb verantwortlich, sondern auch für die Bewertung und Qualitätssicherung, wie z. B. die Wasserqualitätsprüfung.

Auch die Regulierung des Einsatzes von KI ist von zentraler Bedeutung

Außerdem kann diese Technologie ebenso wie Strom missbraucht werden. Es hat sich auch gezeigt, dass es mehrere Einschränkungen und potenziellen Missbrauch hat. Es wurde viel darüber geforscht, wie diese Modelle durch Astroturfing und die Verbreitung von Vorurteilen potenziell Schaden anrichten können. Angesichts der Art und Weise, wie diese Technologie unsere Arbeitsweise grundlegend verändern wird, ist es wichtig, ihr Leitungsgremium und ihre Regulierung zu berücksichtigen. Mehrere Anbieter dieser NLP-APIs haben kürzlich eine Reihe von Best Practices für die Bereitstellung dieser Modelle veröffentlicht, aber dies ist offensichtlich nur ein erster Schritt, der auf dieser früheren Arbeit aufbaut.

Andreas Ng berühmt gesagt dass „KI die neue Elektrizität ist.“ Ich glaube, er meinte, dass es eine Welle des Fortschritts und der Innovation antreiben wird, die für das Funktionieren unserer Wirtschaft von entscheidender Bedeutung sein wird, mit den gleichen Auswirkungen wie die Einführung der Elektrizität. Die Aussage ist vielleicht ein bisschen übertrieben, aber vielleicht treffender, als ich ursprünglich dachte. Wenn KI die neue Elektrizität ist, dann muss sie durch eine neue Reihe von Kraftwerken ermöglicht werden.

Nick Frosst ist Mitbegründer von Zusammenhängen.

DatenEntscheider

Willkommen in der VentureBeat-Community!

DataDecisionMakers ist der Ort, an dem Experten, einschließlich der technischen Mitarbeiter, die mit Daten arbeiten, datenbezogene Erkenntnisse und Innovationen austauschen können.

Wenn Sie über innovative Ideen und aktuelle Informationen, Best Practices und die Zukunft von Daten und Datentechnologie lesen möchten, besuchen Sie uns bei DataDecisionMakers.

Vielleicht denken Sie sogar darüber nach, einen eigenen Artikel beizusteuern!

Lesen Sie mehr von DataDecisionMakers

Leave a Comment