Naleving en beveiliging van Foundation-model-API's

In dit artikel worden de nalevingsstandaarden en beveiligingsprofielondersteuning voor Databricks Foundation Model-API's beschreven.

Databricks Foundation Model-API's ondersteunen verschillende nalevingsstandaarden om te voldoen aan beveiligings- en regelgevingsvereisten voor ondernemingen. De beschikbaarheid van deze standaardmodellen kan per regio en implementatiemodel variëren: betalen per token of ingerichte doorvoercapaciteit.

Ondersteuning voor nalevingsstandaarden: Betalen per token

Pay-per-token workloads ondersteunen het volledige scala aan compliance-standaarden die beschikbaar zijn voor Model Serving:

  • HIPAA-compliance in alle regio's.
  • Aanvullende nalevingsstandaarden (PCI-DSS, FedRAMP, IRAP, CCCS, UK Cyber Essentials Plus) in ondersteunde regio's.
  • Beschikbaar voor klanten met het Compliance Security Profile ingeschakeld, ook wanneer een compliance-standaard is gekozen.

Ondersteuning voor nalevingsstandaarden: Voorgeconfigureerde doorvoer

Geprovisioneerde throughput-workloads ondersteunen het volledige scala aan compliance-standaarden die beschikbaar zijn voor Model Serving:

  • HIPAA-compliance in alle regio's.
  • Aanvullende nalevingsstandaarden (PCI-DSS, FedRAMP, IRAP, CCCS, UK Cyber Essentials Plus) in ondersteunde regio's.
  • Aanbevolen voor alle workloads waarvoor nalevingscertificeringen buiten HIPAA zijn vereist.

Opmerking

Deze nalevingsstandaarden vereisen dat uitgeleverde containers in de afgelopen 30 dagen worden gebouwd. Databricks bouwt automatisch verouderde containers namens u opnieuw op. Als deze geautomatiseerde taak echter mislukt, wordt er een gebeurtenislogboekbericht als het volgende weergegeven:

"Databricks couldn't complete a scheduled compliance check for model $servedModelName. This can happen if the system can't apply a required update. To resolve, try relogging your model. If the issue persists, contact support@databricks.com."

Gegevensverwerking en verblijf

De regio en de bijbehorende geografie waar uw Foundation Model API-aanvragen worden verwerkt, zijn afhankelijk van uw werkruimteregio en het specifieke model dat wordt gebruikt:

  • Als onderdeel van het aanbieden van de Foundation Model API's kunnen Databricks je data verwerken buiten de regio waar je data vandaan komt, maar niet buiten de relevante geografische locatie , tenzij cross-Geo dataverwerking is ingeschakeld.
  • Als uw werkruimte zich in een regio voor modelverdiening bevindt, maar niet in een VS- of EU-regio, moet uw werkruimte zijn ingeschakeld voor verwerking tussen geografische gebieden. Het staat standaard aan voor deze werkruimtes, tenzij het compliance-beveiligingsprofiel is ingeschakeld.
  • Wanneer cross-Geo gegevensverwerking aanstaat, kunnen verzoeken buiten je werkruimte Geo worden verwerkt. Als je workloads datalocatie-eisen hebben, zet het dan uit.
  • Zie Designated Services voor geografische gebieden die pay-per-token workloads en geprovisioneerde throughput-workloads verwerken.

Gegevensprivacy en -gebruik

Zie Gegevensbescherming in Model Serving voor informatie over hoe Databricks de invoer en uitvoer van Foundation Model API-verzoeken beschermt, gebruikt en bewaart, inclusief bewaartermijnen van aanbieders van partnermodellen.

Beschikbaarheid van regionaal model

Sommige modellen zijn alleen in bepaalde regio's verkrijgbaar. Om te controleren waar elk model beschikbaar is en of uw regio cross-Geo gegevensverwerking vereist, zie Modelbeschikbaarheid per regio. Modelbeschikbaarheid toont aan waar u een model kunt gebruiken, niet waar verzoeken worden verwerkt. Zie Dataverwerking en gegevensopslaglocatie.

Aanbevolen procedures voor beveiliging

Als u wilt beperken welke door Databricks gehoste basismodellen uw organisatie kan aanroepen, raadpleegt u de machtigingen van de Unity Catalog van het basismodel.

Onderwerp Bijzonderheden
Toegangsbeheer
  • Foundation Model API-eindpunten worden beveiligd door toegangsbeheer op werkruimteniveau.
  • Alleen werkruimtebeheerders kunnen governance-instellingen wijzigen voor Eindpunten van Foundation Model-API's.
  • Eindpunten respecteren netwerkgerelateerde toegangsregels die zijn geconfigureerd in de werkruimte.
Netwerkbeveiliging
  • Eindpunten respecteren IP-acceptatielijsten en Private Link configuraties.
  • Privéconnectiviteit (zoals Azure Private Link) wordt alleen ondersteund voor modelservereindpunten die gebruikmaken van ingerichte doorvoer of eindpunten die aangepaste modellen dienen.
Containerbeveiliging
  • Model Serving biedt geen beveiligingspatches voor bestaande modelinstallatiekopieën om te voorkomen dat productie-implementaties worden gedestabiliseerd.
  • Nieuwe modelafbeeldingen die zijn gemaakt van nieuwe modelversies, bevatten de nieuwste patches.
  • Containers worden elke 30 dagen automatisch opnieuw opgebouwd voor nalevingsvereisten.

Aanvullende bronnen