Wie kann Amazon benutzerdefinierte AWS -Chips verwenden, um Microsoft und Google im Bereich KI zu treffen?
Laut CNBC entwirft das Amazon -Team zwei Chips, den Codenamen inferentia und das Training, um generative künstliche Intelligenz zu trainieren und zu beschleunigen.Diese Chips bieten eine alternative Option für Amazon Cloud Services AWS -Kunden, um große Sprachmodelle anstelle von NVIDIA -Grafikprozessoren zu schulen.Derzeit ist die Beschaffung von GPUs immer schwieriger und teuer geworden, und diese maßgeschneiderten Chips können AWS -Kunden alternative Lösungen für die Schulung von großsprachigen Modellen in NVIDIA -Chips bieten.
Adam Selipsky, CEO von Amazon Cloud Technology, sagte im Juni dieses Jahres: "Die Welt hofft, mehr Chips für generative künstliche Intelligenz zu haben, sei
Andere Unternehmen haben jedoch schnellere Maßnahmen ergriffen und mehr Mittel investiert, um Geschäfte aus der Welle der generativen künstlichen Intelligenz zu gewinnen.Als Openai im November letzten Jahres Chatgpt startete, wurde Microsoft für seine Chatbots und 13 Milliarden US -Dollar in OpenAI weit verbreitet.Das Unternehmen fügte seinen Produkten schnell generative Modelle für künstliche Intelligenz hinzu und fusionierte sie im Februar dieses Jahres zu Bing.
Im selben Monat startete Google ein eigenes groß angelangtes Sprachmodell, Bard, und investierte anschließend 300 Millionen US-Dollar in OpenAI-Konkurrent Anthropic.
Erst im April kündigte Amazon die Einführung einer eigenen großsprachigen Modelserie (Titan) und eines Bedlock -Dienstes an, mit dem Entwickler generative KI -Verbesserungssoftware verwendet werden können.
Amazon ist es nicht gewohnt, den Markt zu verfolgen.Amazon ist es gewohnt, den Markt zu erstellen.Ich denke, dass sie sich zum ersten Mal seit langer Zeit benachteiligen und hart daran arbeiten, aufzuholen “, sagte Chirag Dekate, Vice President Analyst bei Gartner.
Meta hat kürzlich seine eigenen LLAMA 2 -Hauptmodelle veröffentlicht.Dieser Open -Source -Chatgpt -Konkurrent kann jetzt auf der Azure Public Cloud von Microsoft getestet werden.
Chips sind "wahre Differenzierung"
Dekate erklärte, dass die maßgeschneiderten Chips von Amazon auf lange Sicht einen Vorteil auf dem Gebiet der generativen künstlichen Intelligenz bieten können.
Ich denke
AWS begann bereits 2013 mit der Herstellung von kundenspezifischen Chips mit einer speziellen Hardware namens Nitro, der jetzt der meistverkaufte AWS-Chip ist.Amazon behauptet, dass jeder AWS -Server mindestens einen mit einer Gesamtnutzung von über 20 Millionen hat.
Im Jahr 2015 erwarb Amazon Annapurna Labs an Annapurna Israeli Chip.Im Jahr 2018 hat Amazon das ARM -Basis -Server -Chip -Graviton gestartet, der von Riesen wie AMD und Intel mit X86 -CPUs Konkurrent ist.
ARM kann eine hohe einstellige oder sogar 10% des gesamten Serververkaufs ausmachen, wobei ein großer Teil von Amazon stammt.Daher geht es ihnen in Bezug auf die CPU recht gut “, sagte Stacy Rasgon, Senior Analyst bei Bernstein Research.
Ebenfalls 2018 hat Amazon Chips auf den Markt gebracht, das sich auf künstliche Intelligenz konzentrierte.Vor zwei Jahren kündigte Google die Einführung seiner ersten Tensor Processor Unit (TPU) an.Microsoft hat noch nicht angekündigt, den Athena AI Chip zu entwickeln, der Berichten zufolge in Zusammenarbeit mit AMD entwickelt wurde.
Matt Wood, Vizepräsident von Amazon Products, erklärte die Verwendung der Ausbildung und inferentia -Chips.
Das maschinelle Lernen ist in diese beiden verschiedenen Phasen unterteilt.Daher trainieren Sie maschinelles Lernen und schließen dann diese geschulten Modelle ab ", sagte Wood. Im Vergleich zu anderen Methoden des maschinellen Lernens auf AWS hat das Training seine Kosteneffizienz um ca. 50% verbessert
Nach der Veröffentlichung von Inferententia im Jahr 2019 (derzeit in der zweiten Generation) wurde das Training erstmals im Jahr 2021 gestartet.
Inferentia "liefert eine Inferenz für sehr kostengünstige, hohe Durchsatz und maschinelles Latenz mit maschinellem Lernen.
Derzeit ist die GPU von Nvidia jedoch immer noch der König in Bezug auf Trainingsmodelle.Im Juli dieses Jahres startete AWS eine neue KI -Beschleunigungshardware, die von Nvidia H100 unterstützt wurde.
Rasgon sagte: "Nvidia -Chips haben ein großes Software -Ökosystem, und in den letzten 15 Jahren wurde das um sie herum gebaute Software -Ökosystem von anderen Unternehmen beispiellos. Derzeit ist Nvidia der größte Gewinner in künstlicher Intelligenz
Nutzung von Cloud -Vorteilen
Die Cloud -Dominanz von AWS ist jedoch ein wesentlicher Differenzierungsfaktor für Amazon.
Amazon braucht keine zusätzliche Aufmerksamkeit.Amazon hat bereits eine sehr starke Cloud -Installationsstiftung.Sie müssen lediglich herausfinden, wie sie bestehende Kunden ermöglichen können, generative künstliche Intelligenz zu nutzen, um sich auf Wertschöpfungsaktivitäten auszudehnen “, sagte Dekate.
Bei der Auswahl der generativen künstlichen Intelligenz zwischen Amazon, Google und Microsoft können sich Millionen von AWS -Kunden von Amazon angezogen fühlen, da sie bereits mit Amazon vertraut sind, andere Anwendungen ausführen und dort Daten speichern.
Mai Lan Tomsen Bukovec, Vizepräsident von AWS Technology, erklärte: "Dies ist eine Frage der Geschwindigkeit. Wie schnell diese Unternehmen diese generativen Anwendungen für künstliche Intelligenz entwickeln könnenzur Verfügung stellen, um es zu fahren
Laut Gartner-Daten ist AWS der weltweit größte Cloud-Computing-Anbieter mit einem Marktanteil von 40% im Jahr 2022. Obwohl der Betriebsgewinn von Amazon in drei aufeinanderfolgenden Quartalen gegenüber dem Vorjahr zurückgegangen ist, machte AWS immer noch 70% der 70% der Amazon-7,7 Milliarden US-Dollar ausBetriebsgewinn im zweiten Quartal.Aus historischer Sicht ist die Betriebsgewinnspanne von AWS viel höher als Google Cloud.
Darüber hinaus verfügt AWS über ein zunehmendes Portfolio von Entwicklerwerkzeugen, die sich auf generative künstliche Intelligenz konzentrieren.Swami Sivasubramanian, Vizepräsident von Datenbank, Analyse und maschinellChip in diesem schnellen, geschweige denn in 2 bis 3 Monaten einen grundlegenden Service einrichten
Bedlocke kann AWS -Kunden Zugang zu großsprachigen Modellen bieten, die von Antiopic, Stability AI, AI21 Labs und Amazon Titan entwickelt wurden.Sivasubramanian sagte: "Wir glauben nicht, dass ein Modell die Welt regieren wird. Wir möchten, dass unsere Kunden hochmoderne Modelle von mehreren Lieferanten haben, da sie die richtigen Tools für den richtigen Job auswählen werden
Eines der neuesten Produkte für künstliche Intelligenz von Amazon ist AWS HealthScribe, das im Juli auf den Markt gebracht wurde und den Ärzten dabei helfen soll, Patienten mit einer generativen künstlichen Intelligenz zusammenzufassen.Amazon verfügt außerdem über ein maschinelles Lernzentrum namens Sagemaker, das Dienste wie Algorithmen und Modelle anbietet.
Ein weiteres wichtiges Instrument ist Codewhisperer, das laut Amazon die Fertigstellung der Entwickleraufgaben um durchschnittlich 57%erhöht hat.Im vergangenen Jahr berichtete Microsoft auch, dass sein Coding -Tool Github Copilot die Arbeitseffizienz verbessert hat.
Im Juni dieses Jahres kündigte AWS eine Investition von 100 Millionen US -Dollar zur Einrichtung eines generativen Innovationszentrums für künstliche Intelligenz an.Adam Selipsky, CEO von AWS, sagte: "Wir haben viele Kunden, die eine generative Technologie für künstliche Intelligenz wollen, aber sie wissen möglicherweise nicht unbedingt, was es für sie in ihrem eigenen geschäftlichen Kontext bedeutet. Daher werden wir Lösungsarchitekten, Ingenieure, Strategen,und Datenwissenschaftler, um mit ihnen einzeln zu arbeiten
Obwohl AWS sich bisher hauptsächlich auf die Entwicklung von Tools konzentriert hat, anstatt Konkurrenten für ChatGPT zu erstellen, zeigt eine kürzlich durchgesickerte interne E -Mail, dass Amazon -CEO Andy Jassy direkt ein neues zentrales Team überwacht, das auch skalierbare Großsprachmodelle aufbaut.
Während der Telefonkonferenz im zweiten Quartal erklärte JIA XI, dass ein "bedeutender Teil" von AWSs Geschäft jetzt von künstlichen Intelligenz und seiner Unterstützung für mehr als 20 maschinelle Lerndienste angetrieben wird, darunter Kunden, darunter Philips, 3M, Old Mutual und HSBC.
Das explosive Wachstum der künstlichen Intelligenz hat eine Reihe von Sicherheitsbedenken geführt, da Unternehmen besorgt sind, dass die Mitarbeiter proprietäre Informationen in Schulungsdaten einbeziehen werden, die im gemeinsamen großen Sprachmodell verwendet werden.
Adam Selipsky sagte: "Ich kann Ihnen nicht sagen, wie viele Fortune -500 -Unternehmen, die ich kontaktiert habe. Es wird verschlüsselt und haben die gleiche AWS -Zugriffskontrolle
Derzeit beschleunigt Amazon nur die Förderung generativer künstlicher Intelligenz und behauptet, dass "über 100000" Kunden derzeit maschinelles Lernen auf AWS verwenden.Obwohl dies nur einen kleinen Teil von AWS -Millionen von Kunden ausmacht, sagen Analysten, dass sich diese Situation ändern könnte.
Wir sehen keine Unternehmen, die sagen: „Oh, warte eine Minute, Microsoft führt bereits in generativer künstlicher Intelligenz.Lassen Sie uns unsere Infrastrukturstrategie ändern und alles in Microsoftware verschieben.Wenn Sie bereits Kunde von Amazon sind, werden Sie wahrscheinlich das Amazon -Ökosystem weiter untersuchen. '
Adam Selipsky, CEO von Amazon Cloud Technology, sagte im Juni dieses Jahres: "Die Welt hofft, mehr Chips für generative künstliche Intelligenz zu haben, sei
Andere Unternehmen haben jedoch schnellere Maßnahmen ergriffen und mehr Mittel investiert, um Geschäfte aus der Welle der generativen künstlichen Intelligenz zu gewinnen.Als Openai im November letzten Jahres Chatgpt startete, wurde Microsoft für seine Chatbots und 13 Milliarden US -Dollar in OpenAI weit verbreitet.Das Unternehmen fügte seinen Produkten schnell generative Modelle für künstliche Intelligenz hinzu und fusionierte sie im Februar dieses Jahres zu Bing.
Im selben Monat startete Google ein eigenes groß angelangtes Sprachmodell, Bard, und investierte anschließend 300 Millionen US-Dollar in OpenAI-Konkurrent Anthropic.
Erst im April kündigte Amazon die Einführung einer eigenen großsprachigen Modelserie (Titan) und eines Bedlock -Dienstes an, mit dem Entwickler generative KI -Verbesserungssoftware verwendet werden können.
Amazon ist es nicht gewohnt, den Markt zu verfolgen.Amazon ist es gewohnt, den Markt zu erstellen.Ich denke, dass sie sich zum ersten Mal seit langer Zeit benachteiligen und hart daran arbeiten, aufzuholen “, sagte Chirag Dekate, Vice President Analyst bei Gartner.
Meta hat kürzlich seine eigenen LLAMA 2 -Hauptmodelle veröffentlicht.Dieser Open -Source -Chatgpt -Konkurrent kann jetzt auf der Azure Public Cloud von Microsoft getestet werden.
Chips sind "wahre Differenzierung"
Dekate erklärte, dass die maßgeschneiderten Chips von Amazon auf lange Sicht einen Vorteil auf dem Gebiet der generativen künstlichen Intelligenz bieten können.
Ich denke
AWS begann bereits 2013 mit der Herstellung von kundenspezifischen Chips mit einer speziellen Hardware namens Nitro, der jetzt der meistverkaufte AWS-Chip ist.Amazon behauptet, dass jeder AWS -Server mindestens einen mit einer Gesamtnutzung von über 20 Millionen hat.
Im Jahr 2015 erwarb Amazon Annapurna Labs an Annapurna Israeli Chip.Im Jahr 2018 hat Amazon das ARM -Basis -Server -Chip -Graviton gestartet, der von Riesen wie AMD und Intel mit X86 -CPUs Konkurrent ist.
ARM kann eine hohe einstellige oder sogar 10% des gesamten Serververkaufs ausmachen, wobei ein großer Teil von Amazon stammt.Daher geht es ihnen in Bezug auf die CPU recht gut “, sagte Stacy Rasgon, Senior Analyst bei Bernstein Research.
Ebenfalls 2018 hat Amazon Chips auf den Markt gebracht, das sich auf künstliche Intelligenz konzentrierte.Vor zwei Jahren kündigte Google die Einführung seiner ersten Tensor Processor Unit (TPU) an.Microsoft hat noch nicht angekündigt, den Athena AI Chip zu entwickeln, der Berichten zufolge in Zusammenarbeit mit AMD entwickelt wurde.
Matt Wood, Vizepräsident von Amazon Products, erklärte die Verwendung der Ausbildung und inferentia -Chips.
Das maschinelle Lernen ist in diese beiden verschiedenen Phasen unterteilt.Daher trainieren Sie maschinelles Lernen und schließen dann diese geschulten Modelle ab ", sagte Wood. Im Vergleich zu anderen Methoden des maschinellen Lernens auf AWS hat das Training seine Kosteneffizienz um ca. 50% verbessert
Nach der Veröffentlichung von Inferententia im Jahr 2019 (derzeit in der zweiten Generation) wurde das Training erstmals im Jahr 2021 gestartet.
Inferentia "liefert eine Inferenz für sehr kostengünstige, hohe Durchsatz und maschinelles Latenz mit maschinellem Lernen.
Derzeit ist die GPU von Nvidia jedoch immer noch der König in Bezug auf Trainingsmodelle.Im Juli dieses Jahres startete AWS eine neue KI -Beschleunigungshardware, die von Nvidia H100 unterstützt wurde.
Rasgon sagte: "Nvidia -Chips haben ein großes Software -Ökosystem, und in den letzten 15 Jahren wurde das um sie herum gebaute Software -Ökosystem von anderen Unternehmen beispiellos. Derzeit ist Nvidia der größte Gewinner in künstlicher Intelligenz
Nutzung von Cloud -Vorteilen
Die Cloud -Dominanz von AWS ist jedoch ein wesentlicher Differenzierungsfaktor für Amazon.
Amazon braucht keine zusätzliche Aufmerksamkeit.Amazon hat bereits eine sehr starke Cloud -Installationsstiftung.Sie müssen lediglich herausfinden, wie sie bestehende Kunden ermöglichen können, generative künstliche Intelligenz zu nutzen, um sich auf Wertschöpfungsaktivitäten auszudehnen “, sagte Dekate.
Bei der Auswahl der generativen künstlichen Intelligenz zwischen Amazon, Google und Microsoft können sich Millionen von AWS -Kunden von Amazon angezogen fühlen, da sie bereits mit Amazon vertraut sind, andere Anwendungen ausführen und dort Daten speichern.
Mai Lan Tomsen Bukovec, Vizepräsident von AWS Technology, erklärte: "Dies ist eine Frage der Geschwindigkeit. Wie schnell diese Unternehmen diese generativen Anwendungen für künstliche Intelligenz entwickeln könnenzur Verfügung stellen, um es zu fahren
Laut Gartner-Daten ist AWS der weltweit größte Cloud-Computing-Anbieter mit einem Marktanteil von 40% im Jahr 2022. Obwohl der Betriebsgewinn von Amazon in drei aufeinanderfolgenden Quartalen gegenüber dem Vorjahr zurückgegangen ist, machte AWS immer noch 70% der 70% der Amazon-7,7 Milliarden US-Dollar ausBetriebsgewinn im zweiten Quartal.Aus historischer Sicht ist die Betriebsgewinnspanne von AWS viel höher als Google Cloud.
Darüber hinaus verfügt AWS über ein zunehmendes Portfolio von Entwicklerwerkzeugen, die sich auf generative künstliche Intelligenz konzentrieren.Swami Sivasubramanian, Vizepräsident von Datenbank, Analyse und maschinellChip in diesem schnellen, geschweige denn in 2 bis 3 Monaten einen grundlegenden Service einrichten
Bedlocke kann AWS -Kunden Zugang zu großsprachigen Modellen bieten, die von Antiopic, Stability AI, AI21 Labs und Amazon Titan entwickelt wurden.Sivasubramanian sagte: "Wir glauben nicht, dass ein Modell die Welt regieren wird. Wir möchten, dass unsere Kunden hochmoderne Modelle von mehreren Lieferanten haben, da sie die richtigen Tools für den richtigen Job auswählen werden
Eines der neuesten Produkte für künstliche Intelligenz von Amazon ist AWS HealthScribe, das im Juli auf den Markt gebracht wurde und den Ärzten dabei helfen soll, Patienten mit einer generativen künstlichen Intelligenz zusammenzufassen.Amazon verfügt außerdem über ein maschinelles Lernzentrum namens Sagemaker, das Dienste wie Algorithmen und Modelle anbietet.
Ein weiteres wichtiges Instrument ist Codewhisperer, das laut Amazon die Fertigstellung der Entwickleraufgaben um durchschnittlich 57%erhöht hat.Im vergangenen Jahr berichtete Microsoft auch, dass sein Coding -Tool Github Copilot die Arbeitseffizienz verbessert hat.
Im Juni dieses Jahres kündigte AWS eine Investition von 100 Millionen US -Dollar zur Einrichtung eines generativen Innovationszentrums für künstliche Intelligenz an.Adam Selipsky, CEO von AWS, sagte: "Wir haben viele Kunden, die eine generative Technologie für künstliche Intelligenz wollen, aber sie wissen möglicherweise nicht unbedingt, was es für sie in ihrem eigenen geschäftlichen Kontext bedeutet. Daher werden wir Lösungsarchitekten, Ingenieure, Strategen,und Datenwissenschaftler, um mit ihnen einzeln zu arbeiten
Obwohl AWS sich bisher hauptsächlich auf die Entwicklung von Tools konzentriert hat, anstatt Konkurrenten für ChatGPT zu erstellen, zeigt eine kürzlich durchgesickerte interne E -Mail, dass Amazon -CEO Andy Jassy direkt ein neues zentrales Team überwacht, das auch skalierbare Großsprachmodelle aufbaut.
Während der Telefonkonferenz im zweiten Quartal erklärte JIA XI, dass ein "bedeutender Teil" von AWSs Geschäft jetzt von künstlichen Intelligenz und seiner Unterstützung für mehr als 20 maschinelle Lerndienste angetrieben wird, darunter Kunden, darunter Philips, 3M, Old Mutual und HSBC.
Das explosive Wachstum der künstlichen Intelligenz hat eine Reihe von Sicherheitsbedenken geführt, da Unternehmen besorgt sind, dass die Mitarbeiter proprietäre Informationen in Schulungsdaten einbeziehen werden, die im gemeinsamen großen Sprachmodell verwendet werden.
Adam Selipsky sagte: "Ich kann Ihnen nicht sagen, wie viele Fortune -500 -Unternehmen, die ich kontaktiert habe. Es wird verschlüsselt und haben die gleiche AWS -Zugriffskontrolle
Derzeit beschleunigt Amazon nur die Förderung generativer künstlicher Intelligenz und behauptet, dass "über 100000" Kunden derzeit maschinelles Lernen auf AWS verwenden.Obwohl dies nur einen kleinen Teil von AWS -Millionen von Kunden ausmacht, sagen Analysten, dass sich diese Situation ändern könnte.
Wir sehen keine Unternehmen, die sagen: „Oh, warte eine Minute, Microsoft führt bereits in generativer künstlicher Intelligenz.Lassen Sie uns unsere Infrastrukturstrategie ändern und alles in Microsoftware verschieben.Wenn Sie bereits Kunde von Amazon sind, werden Sie wahrscheinlich das Amazon -Ökosystem weiter untersuchen. '