Registros de tráfico de red extendidos

Importante

Esta característica se encuentra en versión preliminar privada. Para probarlo, póngase en contacto con su contacto de Azure Databricks.

Los registros extendidos de tráfico de red registran el tráfico de red saliente desde el proceso sin servidor de Azure Databricks. Por defecto, la tabla del sistema de eventos de acceso a la red saliente registra solo las solicitudes que los controles de egreso serverless deniegan. Con registros de tráfico de red extendidos, también registra las solicitudes permitidas, para que puedas ver dónde se conectan tus cargas de trabajo sin servidor y solucionar problemas de conectividad.

Los registros extendidos de tráfico de red también agregan una tabla de registros de flujo que registra la cantidad de datos que el proceso sin servidor envía y recibe de cada dirección IP de destino. Las dos capacidades utilizan las siguientes tablas del sistema:

Capacidad Tabla del sistema Description
Eventos de acceso a la red saliente permitidos system.access.outbound_network Añade las solicitudes salientes permitidas a la tabla existente de solicitudes denegadas.
Registros de flujo de tráfico saliente system.access.outbound_traffic Registra los bytes enviados y recibidos por dirección IP de destino, agregados en intervalos de un minuto.

Los registros de flujo de tráfico saliente solo registran el tráfico enrutado a través de una pasarela de red privada.

Para consultar los logs, consulte Consultar logs de tráfico de red extendido.

Casos de uso

Utilizar registros de tráfico de red ampliados para:

  • Investiga la actividad de la red: Consulta a qué destinos accedieron tus cargas de trabajo serverless, cuándo y desde qué espacio de trabajo.
  • Refina las políticas de red: Encuentra destinos a los que rara vez se accede y decide si eliminarlos de tus listas de permitidos de salida de Serverless.
  • Solucionar problemas de conectividad: determine si los controles de salida sin servidor permitieron o denegaron una solicitud.
  • Investigar los costes de red: Identificar destinos interregionales, de internet y privados a los que acceden las cargas de trabajo sin servidor.
  • Optimiza la conectividad de almacenamiento: Encuentra destinos de almacenamiento frecuentemente consultados que puedan beneficiarse de la conectividad privada o de estar en la misma región que tus cargas de trabajo.
  • Mide los volúmenes de tráfico: Observa cuántos datos envía y recibe el computo serverless a cada destino a través de una pasarela de red privada.
  • Detectar actividad inusual: Encontrar destinos con volúmenes de tráfico inesperadamente altos.

Cómo funciona

Eventos de acceso a la red permitidos

Los registros extendidos de tráfico de red agregan eventos ALLOWED a la tabla system.access.outbound_network existente. Esta tabla registra los eventos de acceso a la red saliente de cargas de trabajo sin servidor, incluyendo almacenes SQL, trabajos, pipelines Lakeflow, aplicaciones Databricks y endpoints Model Serving. Los eventos permitidos incluyen solicitudes a almacenamiento en la nube, destinos de internet y recursos accesibles a través de conectividad privada. Para el esquema completo de la tabla, consulte la referencia de la tabla del sistema de eventos de acceso a la red.

La access_type columna indica el resultado de cada evento:

Value Description
ALLOWED Se permitía el acceso saliente a la red. Disponible solo con registros de tráfico de red extendidos.
DROP El acceso a la red saliente fue denegado por los controles de salida serverless en modo forzado.
DRY_RUN_DENIAL El acceso a la red saliente habría sido denegado por los controles de salida (egress) de Serverless, pero se permitió porque la política estaba en modo de simulación.

Los valores access_type y destination_type registrados para una solicitud dependen del destino y del modo de la directiva de salida sin servidor:

Solicitud de red Salida sin restricciones Modo de simulación Modo forzado
Acceso de almacenamiento permitido ALLOWED / DNS Sin iniciar sesión ALLOWED / STORAGE
Acceso al almacenamiento que viola la política No es aplicable DRY_RUN_DENIAL / DNS DROP / STORAGE
Acceso permitido a los recursos de VNet ALLOWED / DNS ALLOWED / DNS ALLOWED / DNS
Acceso a los recursos de VNet que infringe la directiva No es aplicable DRY_RUN_DENIAL / DNS DROP / DNS
Acceso a Internet permitido ALLOWED / DNS ALLOWED / DNS ALLOWED / DNS
Acceso a Internet que incumple la política No es aplicable DRY_RUN_DENIAL / DNS DROP / DNS

Para eventos permitidos DNS , destination contiene el nombre de dominio o nombre de host de almacenamiento. Para eventos permitidos STORAGE , destination contiene el nombre de host y la ruta de almacenamiento. Las direcciones IP de destino resueltas están en dns_event.rdata o storage_event.rdata. Estos campos están vacíos para eventos denegados.

Registros de flujo de tráfico saliente

La system.access.outbound_traffic tabla registra volúmenes de tráfico agregados, no solicitudes individuales. Azure Databricks agrupa el tráfico en intervalos fijos de un minuto que comienzan y terminan en el cambio de minuto. Dentro de cada intervalo, el tráfico con el mismo espacio de trabajo, dirección IP de destino y método de conexión se combina en un solo registro, sumando los bytes enviados y recibidos.

Por ejemplo, el tráfico entre 12:05:00 y 12:06:00 produce un registro con period_start_time = 12:05:00 y period_end_time = 12:06:00. La hora de inicio es inclusiva y la hora de finalización es exclusiva. Estas marcas de tiempo señalan los límites del intervalo, no las horas del primer y último paquetes. Los intervalos sin tráfico no producen registros.

La system.access.outbound_traffic tabla tiene el esquema siguiente:

Columna Tipo de dato Description
event_id string Identificador único para el registro de tráfico agregado.
account_id string ID de la cuenta de Azure Databricks donde se originó el tráfico.
workspace_id string ID del espacio de trabajo de donde se originó el tráfico.
destination_ip string Dirección IP de destino
received_bytes bigint El total de bytes recibidos por el cómputo sin servidor durante el intervalo.
sent_bytes bigint El total de bytes enviados por el cómputo sin servidor durante el intervalo.
connection_type string Tipo de conectividad utilizada. El valor es PRIVATE.
connection_method string Método de conectividad utilizado. El valor es PRIVATE_NETWORK_GATEWAY.
period_start_time marca de tiempo Inicio incluido del intervalo de un minuto.
period_end_time marca de tiempo Fin exclusivo del intervalo de un minuto.

Cómo se relacionan las tablas

system.access.outbound_network Te indica el nombre de host de destino o la ubicación de almacenamiento de una solicitud. system.access.outbound_traffic Te indica la dirección IP de destino, el método de conexión y cuántos bytes se han transferido.

Para correlacionarlos, haga coincidir el id. de cuenta, el id. del área de trabajo y la dirección IP de destino resuelta, y compruebe que el event_time del evento de acceso cae dentro del intervalo del registro de flujo. Las dos tablas tienen valores de event_id independientes, por lo que no debe combinarlas en event_id.

Estas coincidencias son correlaciones basadas en la dirección IP y la hora. No vinculan un evento de acceso a una conexión de red específica. Cuando varios nombres de host se resuelven a la misma dirección IP, cada nombre de host coincide con los mismos registros de flujo.

Limitations

Los registros de tráfico de red extendidos tienen las siguientes limitaciones:

  • Los eventos permitidos no se registran para el acceso al modelo externo desde los puntos de conexión de servicio de modelos.
  • Los eventos permitidos no se registran para el acceso al almacenamiento desde espacios de trabajo cuyos controles de salida sin servidor están en modo de ejecución en seco.
  • Los eventos permitidos no se registran para el acceso al almacenamiento interno del área de trabajo, como los artefactos de MLflow y dbt.
  • Los eventos permitidos no se registran para el acceso al almacenamiento del proveedor OpenSharing.
  • El tráfico permitido de cargas de trabajo que duran menos de un minuto es menos probable que se registre, especialmente para cargas de trabajo programadas y no interactivas y para espacios de trabajo con políticas de salida sin restricciones.
  • Los registros de flujo de tráfico saliente solo registran el tráfico enrutado a través de una pasarela de red privada. El tráfico que utiliza otra conectividad privada o salida de internet pública no se registra.
  • Los registros de flujo del tráfico saliente no registran el tráfico de Agent Bricks, Unity Gateway ni las carpetas de Git.

Estas limitaciones no afectan a cómo se aplican los controles de salida serverless ni a cómo se registran las solicitudes denegadas.

Preguntas más frecuentes

Las siguientes preguntas cubren comportamientos comunes que podrías ver en registros de tráfico de red extendidos.

¿Necesito controles de salida serverless para usar registros de tráfico de red extendidos?

N. º Los eventos de acceso a la red saliente permitidos también se registran para los espacios de trabajo con políticas de salida serverless sin restricciones.

¿Por qué aparecen los eventos de acceso a la red después de que termina una carga de trabajo?

Azure Databricks puede seguir accediendo al almacenamiento después de que termina una carga de trabajo, por ejemplo, para mantener registros de Delta o metadatos. Estas solicitudes pueden generar eventos de acceso a la red cuando no hay cargas de trabajo de usuario en ejecución. Los eventos se detienen después de que la instancia de cómputo sin servidor termina.

¿Por qué veo nombres de host desconocidos en mis registros de acceso a la red?

Algunos destinos registrados son recursos gestionados por Azure Databricks utilizados para operaciones de plataforma:

Patrón de nombre de host Purpose
databricks-prewarm-datasets* Mejora los tiempos de arranque de la computación serverless.
dbstorage* Almacenamiento predeterminado de Azure Databricks.
system-tables* Acceso a conjuntos de datos de muestra por defecto.

Si ves otros nombres de host que no reconoces, contacta con tu equipo de cuentas de Azure Databricks.

¿Cuánto tiempo tarda en aparecer los registros de tráfico de red?

La mayoría de los eventos de acceso a la red saliente aparecen dentro de los 15 minutos posteriores a la solicitud. La latencia puede variar, y Azure Databricks no proporciona un acuerdo de nivel de servicio de latencia (SLA) para estos logs.

¿Por qué no puedo encontrar un registro de flujo coincidente para un evento de acceso permitido a la red?

Los registros de flujo solo registran el tráfico enrutado a través de una pasarela de red privada, por lo que las solicitudes permitidas que usan otra conectividad no tienen un registro de flujo coincidente. Que falte un registro de flujo no significa que la petición falló o que no se hayan transferido datos.