Übersicht
Copilot auto model selection ist mehr als nur eine Modellauswahl: ein intelligentes System, das hochwertige Ergebnisse, mehr Zuverlässigkeit und eine Entscheidung weniger bietet, während sich die Modelllandschaft rasant weiterentwickelt.
Sie verwenden Copilot auto model selection, indem Sie in der Modellauswahl Auto auswählen. Wenn Sie in der Auswahl Copilot Fusion anstelle von „Auto“ sehen, bedeutet dies, dass Copilot Fusion auf Ihrer Copilot-Oberfläche verfügbar ist. Siehe Informationen zu GitHub Copilot Fusion.
Auto model selection Verfügbarkeit
Auto model selection ist in diesen Bereichen verfügbar:
- Copilot in the cloud
- Auf Copilot Free, Copilot cloud agent und Copilot Chat auf GitHub.com
- GitHub Copilot Chat in GitHub Mobile
- Eclipse
- Xcode
- Visual Studio
Rabatt bei Verwendung von auto model selection
Wenn Sie einen kostenpflichtigen Copilot-Plan verwenden, haben Sie Anspruch auf einen Rabatt von 10 % auf Modellkosten, während Sie auto model selection in Copilot Chat oder Copilot cloud agent verwenden.
Automatisch mit Aufgabenoptimierung
Hinweis
Auto model selection mit Aufgabenoptimierung ist allgemein auf Copilot Chat der GitHub Website verfügbar.
Auto model selection mit Aufgabenoptimierung kombiniert zwei Systeme, um hochwertige Ergebnisse und eine höhere Zuverlässigkeit zu erzielen. Ein System verfolgt die Integrität und Verfügbarkeit des Echtzeitsystems, während die andere die Komplexität der Aufgabe auswertet. Indem diese zusammengeführt werden, auto model selection weist die Aufgabe dem optimalen Modell zu.
Das Routing erfolgt entlang natürlicher Cache-Grenzen und bei erheblichen Veränderungen in der Komplexität der Konversation, um zusätzliche cachebezogene Kosten zu vermeiden, wenn dadurch keine Qualitätsverbesserung erzielt wird.
Dadurch erhalten Sie mehr Nutzen aus Copilot, da jede Aufgabe dem Modell zugeordnet wird, das sie am effizientesten lösen kann. Dies bedeutet, dass Sie Modelle mit höherer Kosten für Probleme reservieren, die sie wirklich benötigen, während sie einfache Aufgaben an schnellere, kostengünstigere Modelle weiterleiten, die immer noch großartige Ergebnisse liefern.
Die Verwendung von auto model selection bietet folgende Vorteile:
- Abgleichen der einzelnen Aufgaben mit dem Modell, das sie am effizientesten lösen kann.
- Modellauswahl basierend auf Integrität und Verfügbarkeit des Echtzeitsystems.
- Sprachinvarianz: Routingentscheidungen hängen davon ab, was Sie tun möchten, nicht von der Sprache, in der Sie fragen.
- Verbesserte Kosteneffizienz durch intelligentes Aufgabenrouting.
Ebenenoptionen für auto model selection
Es stehen drei Ebenen zur Verfügung. Verwenden Sie diese Stufen, um anzupassen, wie auto model selection Modelle für jede Eingabe bevorzugt weiterleitet.
| Tarif | Priority | Typische Verwendung |
|---|---|---|
| Effizienz | Cost | Gut geeignet für schnelle, einfache Aufgaben. |
| Saldo | Wägt Kosten, Qualität und Latenz ab | Gut geeignet für den Arbeitsalltag. |
| Intelligence | Quality | Erstellt für komplexe Aufgaben. |
Mit Stufen berücksichtigt auto model selection weiterhin den Prompt für jede Aufgabe. Die gleichen Modelle bleiben in jeder Ebene verfügbar, aber das gestaffelte Routing ändert, wie bevorzugte Modelle für jeden Vorgang ausgewählt werden. Beispiele für jede Ebene:
- Effizienz: Alle Eingabeaufforderungen werden an das kostengünstigste und angemessen geeignete Modell für den Vorgang geleitet.
- Balance: Für jede Aufforderung wird das Modell ausgewählt, indem Kosten, Qualität und Latenz berücksichtigt werden, um eine kostengünstige und effiziente Leistung bereitzustellen, die für die Komplexität jeder Aufforderung geeignet ist.
- Intelligenz: Prompts werden daraufhin ausgewertet, welches Modell die qualitativ beste Antwort liefern würde. Eine einfache Eingabeaufforderung kann weiterhin an ein kleineres Modell weitergeleitet werden, während eine komplexe Eingabeaufforderung an das fähigste Modell für diesen Vorgang weitergeleitet wird.
Die Nutzung wird weiterhin basierend auf der automatischen Modellauswahl berechnet, unabhängig von der Stufe, zusammen mit dem Rabatt von 10% für Benutzer auf kostenpflichtigen Plänen. Siehe Rabatt für die Automatische Modellauswahl.
Richtlinien und Modellverfügbarkeit
Wenn Sie Auto auswählen, wählt auto model selection gemäß Ihren Richtlinien und Ihrem Abonnementtyp aus den unterstützten Modellen aus. Verfügbare Modelle können sich im Laufe der Zeit ändern. Siehe Unterstützte KI-Modelle in GitHub Copilot.
Auto model selection enthält diese Modelle nicht :
- Modelle, die nicht in deinem Plan verfügbar sind
- Modelle, die von Administratorrichtlinien ausgeschlossen werden. Siehe Konfigurieren des Zugriffs auf KI-Modelle in GitHub Copilot.
- Modelle, die durch Richtlinien ausgeschlossen sind, die Copilot auf datenresidente oder FedRAMP-kompatible Modelle beschränken.
- Von Richtlinien ausgeschlossene Modelle, die Auswertungsmodelle einschränken.
- Modelle, die Sie oder ein Administrator für Ihr Unternehmen oder Ihre Organisation in Ihrem lokalen Netzwerk oder auf Ihrem lokalen Computer installiert und zur Auswahl in der Modellauswahl Copilot hinzugefügt haben.
Deaktivieren von Auswertungsmodellen in auto model selection
Auto model selection kann Nutzern mit Copilot Tarifen für Einzelpersonen Bewertungsmodelle bereitstellen. Einzelpersonen können die Verwendung dieser Modelle jederzeit deaktivieren. Siehe Unterstützte KI-Modelle in GitHub Copilot.