Collecter les journaux d'audit OpenAI

Compatible avec :

Ce document explique comment ingérer les journaux d'audit OpenAI dans Google Security Operations à l'aide de Google Cloud Storage V2.

OpenAI fournit l'API Audit Logs aux organisations qui utilisent la plate-forme d'API OpenAI. L'API suit les actions des utilisateurs et les modifications de configuration au sein d'une organisation, y compris les événements du cycle de vie des clés API, la gestion des utilisateurs, les modifications de projet, les invitations, l'activité des comptes de service, les événements de connexion et de déconnexion, ainsi que les modifications de configuration de l'organisation.

Avant de commencer

Assurez-vous de remplir les conditions préalables suivantes :

  • Une instance Google SecOps
  • Un projet GCP avec les API Cloud Storage, Cloud Run, Pub/Sub et Cloud Scheduler activées
  • Autorisations permettant de créer et de gérer des buckets GCS
  • Autorisations permettant de gérer les stratégies IAM sur les buckets GCS
  • Autorisations permettant de créer des services Cloud Run, des sujets Pub/Sub et des jobs Cloud Scheduler
  • Rôle de propriétaire de l'organisation dans votre organisation OpenAI API Platform

Activer la journalisation d'audit OpenAI

Avant de pouvoir accéder aux journaux d'audit, vous devez activer la journalisation d'audit dans votre organisation.

  1. Connectez-vous à la plate-forme OpenAI sur https://platform.openai.com.
  2. Accédez à Paramètres> Organisation> Paramètres de contrôle des données.
  3. Faites défiler la page jusqu'à la section Journalisation des audits.
  4. Cliquez sur Activer sous Journalisation des audits.

  5. Cliquez sur Enregistrer.

Créer une clé API Admin OpenAI

  1. Connectez-vous à la plate-forme OpenAI sur https://platform.openai.com.
  2. Dans le panneau de gauche, cliquez sur Clés d'administrateur.
  3. Vous pouvez également accéder directement à https://platform.openai.com/settings/organization/admin-keys.
  4. Cliquez sur Créer une clé d'administrateur.
  5. Dans le champ Nom, saisissez un nom descriptif (par exemple, Google SecOps Integration).
  6. Cliquez sur Créer.

  7. Copiez immédiatement la clé API et stockez-la de manière sécurisée.

Tester l'accès à l'API

  • Testez vos identifiants avant de procéder à l'intégration :

    # Replace with your actual Admin API key
OPENAI_ADMIN_KEY="your-admin-api-key"

# Test audit logs API access
curl -s -H "Authorization: Bearer ${OPENAI_ADMIN_KEY}" \
    -H "Content-Type: application/json" \
    "https://api.openai.com/v1/organization/audit_logs?limit=5" \
    | python3 -m json.tool

Une réponse réussie renvoie un objet JSON avec un champ object défini sur list et un tableau data contenant les entrées du journal d'audit.

Créer un bucket Google Cloud Storage

  1. Accédez à la console Google Cloud.
  2. Sélectionnez votre projet ou créez-en un.
  3. Dans le menu de navigation, accédez à Cloud Storage > Buckets.
  4. Cliquez sur Créer un bucket.

  5. Fournissez les informations de configuration suivantes :

    Paramètre Valeur
    Attribuez un nom au bucket Saisissez un nom unique (par exemple, openai-auditlog-logs).
    Type d'emplacement Choisissez en fonction de vos besoins (région, birégion, multirégion).
    Emplacement Sélectionnez l'emplacement (par exemple, us-central1).
    Classe de stockage Standard (recommandé pour les journaux auxquels vous accédez fréquemment)
    Access control (Contrôle des accès) Uniforme (recommandé)
    Outils de protection Facultatif : Activez la gestion des versions des objets ou la règle de conservation.

  6. Cliquez sur Créer.

Créer un compte de service pour la fonction Cloud Run

  1. Dans la console GCP, accédez à IAM et administration > Comptes de service.
  2. Cliquez sur Créer un compte de service.
  3. Fournissez les informations de configuration suivantes :
    • Nom du compte de service : saisissez openai-auditlog-collector-sa.
    • Description du compte de service : saisissez Service account for Cloud Run function to collect OpenAI audit logs.
  4. Cliquez sur Créer et continuer.
  5. Dans la section Autoriser ce compte de service à accéder au projet, ajoutez les rôles suivants :
    1. Cliquez sur Sélectionner un rôle.
    2. Recherchez et sélectionnez Administrateur des objets Storage.
    3. Cliquez sur + Ajouter un autre rôle.
    4. Recherchez et sélectionnez Demandeur Cloud Run.
    5. Cliquez sur + Ajouter un autre rôle.
    6. Recherchez et sélectionnez Demandeur Cloud Functions.
  6. Cliquez sur Continuer.
  7. Cliquez sur OK.

Accorder des autorisations IAM sur le bucket GCS

  1. Accédez à Cloud Storage > Buckets.
  2. Cliquez sur le nom de votre bucket (openai-auditlog-logs).
  3. Accédez à l'onglet Autorisations.
  4. Cliquez sur Accorder l'accès.
  5. Fournissez les informations de configuration suivantes :
    • Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (openai-auditlog-collector-sa@PROJECT_ID.iam.gserviceaccount.com).
    • Attribuer des rôles : sélectionnez Administrateur des objets Storage.
  6. Cliquez sur Enregistrer.

Créer un sujet Pub/Sub

  1. Dans la console GCP, accédez à Pub/Sub > Sujets.
  2. Cliquez sur Créer un sujet.
  3. Fournissez les informations de configuration suivantes :
    • ID du thème : saisissez openai-auditlog-trigger.
    • Conservez les valeurs par défaut des autres paramètres.
  4. Cliquez sur Créer.

Créer une fonction Cloud Run pour collecter les journaux

La fonction Cloud Run sera déclenchée par les messages Pub/Sub de Cloud Scheduler pour extraire les journaux de l'API OpenAI Audit Logs et les écrire dans GCS.

  1. Dans la console GCP, accédez à Cloud Run.
  2. Cliquez sur Créer un service.
  3. Sélectionnez Fonction (utilisez un éditeur intégré pour créer une fonction).

  4. Dans la section Configurer, fournissez les informations de configuration suivantes :

    Paramètre Valeur
    Nom du service openai-auditlog-collector
    Région Sélectionnez la région correspondant à votre bucket GCS (par exemple, us-central1).
    Durée d'exécution Sélectionnez Python 3.12 ou version ultérieure.

  5. Dans la section Déclencheur (facultatif) :

    1. Cliquez sur + Ajouter un déclencheur.
    2. Sélectionnez Cloud Pub/Sub.
    3. Dans Sélectionner un sujet Cloud Pub/Sub, sélectionnez openai-auditlog-trigger.
    4. Cliquez sur Enregistrer.

  6. Dans la section Authentification :

    1. Sélectionnez Exiger l'authentification.
    2. Consultez Identity and Access Management (IAM).

  7. Faites défiler la page vers le bas, puis développez Conteneurs, mise en réseau, sécurité.

  8. Accédez à l'onglet Sécurité :

    • Compte de service : sélectionnez openai-auditlog-collector-sa.

  9. Accédez à l'onglet Conteneurs :

    1. Cliquez sur Variables et secrets.
    2. Cliquez sur + Ajouter une variable pour chaque variable d'environnement :
    Nom de la variable Exemple de valeur Description
    GCS_BUCKET openai-auditlog-logs Nom du bucket GCS
    GCS_PREFIX openai-auditlog Préfixe des fichiers journaux
    STATE_KEY openai-auditlog/state.json Chemin d'accès au fichier d'état
    OPENAI_ADMIN_KEY your-admin-api-key Clé API OpenAI Admin
    MAX_RECORDS 5000 Nombre maximal d'enregistrements par exécution
    PAGE_SIZE 100 Enregistrements par page d'API (100 max.)
    LOOKBACK_HOURS 24 Période d'analyse initiale

  10. Dans la section Variables et secrets, faites défiler la page jusqu'à Requêtes :

    • Délai avant expiration de la requête : saisissez 600 secondes (10 minutes).

  11. Accédez à l'onglet Paramètres :

    • Dans la section Ressources :
      • Mémoire : sélectionnez 512 Mio ou plus.
      • CPU : sélectionnez 1.

  12. Dans la section Scaling de révision :

    • Nombre minimal d'instances : saisissez 0.
    • Nombre maximal d'instances : saisissez 100.

  13. Cliquez sur Créer.

  14. Attendez que le service soit créé (une à deux minutes).

  15. Une fois le service créé, l'éditeur de code intégré s'ouvre automatiquement.

Ajouter un code de fonction

  1. Saisissez main dans le champ Point d'entrée.

  2. Dans l'éditeur de code intégré, créez deux fichiers :

    • main.py:

      import functions_framework
from google.cloud import storage
import json
import os
import urllib3
from datetime import datetime, timezone, timedelta
import time

http = urllib3.PoolManager(
  timeout=urllib3.Timeout(connect=5.0, read=30.0),
  retries=False,
)

storage_client = storage.Client()

GCS_BUCKET = os.environ.get('GCS_BUCKET')
GCS_PREFIX = os.environ.get('GCS_PREFIX', 'openai-auditlog')
STATE_KEY = os.environ.get('STATE_KEY', 'openai-auditlog/state.json')
OPENAI_ADMIN_KEY = os.environ.get('OPENAI_ADMIN_KEY')
MAX_RECORDS = int(os.environ.get('MAX_RECORDS', '5000'))
PAGE_SIZE = int(os.environ.get('PAGE_SIZE', '100'))
LOOKBACK_HOURS = int(os.environ.get('LOOKBACK_HOURS', '24'))

API_BASE = 'https://api.openai.com'
AUDIT_LOGS_ENDPOINT = '/v1/organization/audit_logs'

@functions_framework.cloud_event
def main(cloud_event):
  """
  Cloud Run function triggered by Pub/Sub to fetch OpenAI audit logs
  and write them to GCS.

  Args:
    cloud_event: CloudEvent object containing Pub/Sub message
  """

  if not all([GCS_BUCKET, OPENAI_ADMIN_KEY]):
    print('Error: Missing required environment variables')
    return

  try:
    bucket = storage_client.bucket(GCS_BUCKET)
    state = load_state(bucket)
    now = datetime.now(timezone.utc)

    if isinstance(state, dict) and state.get('last_effective_at'):
      try:
        last_effective_at = int(state['last_effective_at'])
        last_time = datetime.fromtimestamp(last_effective_at, tz=timezone.utc)
        last_time = last_time - timedelta(minutes=2)
      except Exception as e:
        print(f"Warning: Could not parse last_effective_at: {e}")
        last_time = now - timedelta(hours=LOOKBACK_HOURS)
    else:
      last_time = now - timedelta(hours=LOOKBACK_HOURS)

    start_unix = int(last_time.timestamp())
    end_unix = int(now.timestamp())

    print(f"Fetching audit logs from {last_time.isoformat()} to {now.isoformat()}")

    records, newest_effective_at = fetch_audit_logs(
      start_unix=start_unix,
      end_unix=end_unix,
      page_size=PAGE_SIZE,
      max_records=MAX_RECORDS,
    )

    if not records:
      print("No new audit log records found.")
      save_state(bucket, end_unix)
      return

    timestamp = now.strftime('%Y%m%d_%H%M%S')
    object_key = f"{GCS_PREFIX}/openai_auditlog_{timestamp}.ndjson"
    blob = bucket.blob(object_key)

    ndjson = '\n'.join(
      [json.dumps(record, ensure_ascii=False) for record in records]
    ) + '\n'
    blob.upload_from_string(ndjson, content_type='application/x-ndjson')

    print(f"Wrote {len(records)} records to gs://{GCS_BUCKET}/{object_key}")

    if newest_effective_at:
      save_state(bucket, newest_effective_at)
    else:
      save_state(bucket, end_unix)

    print(f"Successfully processed {len(records)} records")

  except Exception as e:
    print(f'Error processing audit logs: {str(e)}')
    raise

def load_state(bucket):
  """Load state from GCS."""
  try:
    blob = bucket.blob(STATE_KEY)
    if blob.exists():
      return json.loads(blob.download_as_text())
  except Exception as e:
    print(f"Warning: Could not load state: {e}")
  return {}

def save_state(bucket, last_effective_at):
  """Save the last effective_at Unix timestamp to GCS state file."""
  try:
    state = {
      'last_effective_at': last_effective_at,
      'last_run': datetime.now(timezone.utc).isoformat()
    }
    blob = bucket.blob(STATE_KEY)
    blob.upload_from_string(
      json.dumps(state, indent=2),
      content_type='application/json'
    )
    print(f"Saved state: last_effective_at={last_effective_at}")
  except Exception as e:
    print(f"Warning: Could not save state: {e}")

def fetch_audit_logs(start_unix, end_unix, page_size, max_records):
  """
  Fetch audit logs from the OpenAI API with pagination and rate limiting.

  Args:
    start_unix: Start time as Unix seconds
    end_unix: End time as Unix seconds
    page_size: Number of records per page (max 100)
    max_records: Maximum total records to fetch

  Returns:
    Tuple of (records list, newest effective_at Unix timestamp)
  """
  headers = {
    'Authorization': f'Bearer {OPENAI_ADMIN_KEY}',
    'Content-Type': 'application/json',
  }

  records = []
  newest_effective_at = None
  page_num = 0
  backoff = 1.0
  cursor = None

  while True:
    page_num += 1

    if len(records) >= max_records:
      print(f"Reached max_records limit ({max_records})")
      break

    params = []
    params.append(f"effective_at[gte]={start_unix}")
    params.append(f"effective_at[lte]={end_unix}")
    params.append(f"limit={min(page_size, max_records - len(records))}")
    if cursor:
      params.append(f"after={cursor}")

    url = f"{API_BASE}{AUDIT_LOGS_ENDPOINT}?{'&'.join(params)}"

    try:
      response = http.request('GET', url, headers=headers)

      if response.status == 429:
        retry_after = int(response.headers.get('Retry-After', str(int(backoff))))
        print(f"Rate limited (429). Retrying after {retry_after}s...")
        time.sleep(retry_after)
        backoff = min(backoff * 2, 30.0)
        continue

      backoff = 1.0

      if response.status != 200:
        print(f"HTTP Error: {response.status}")
        response_text = response.data.decode('utf-8')
        print(f"Response body: {response_text}")
        return [], None

      data = json.loads(response.data.decode('utf-8'))

      page_results = data.get('data', [])

      if not page_results:
        print(f"No more results (empty page)")
        break

      print(f"Page {page_num}: Retrieved {len(page_results)} events")
      records.extend(page_results)

      for event in page_results:
        try:
          effective_at = event.get('effective_at')
          if effective_at is not None:
            if newest_effective_at is None or effective_at > newest_effective_at:
              newest_effective_at = effective_at
        except Exception as e:
          print(f"Warning: Could not parse event time: {e}")

      has_more = data.get('has_more', False)
      if not has_more:
        print("No more pages (has_more=false)")
        break

      last_id = data.get('last_id')
      if not last_id:
        print("No more pages (no last_id)")
        break

      cursor = last_id

    except Exception as e:
      print(f"Error fetching audit logs: {e}")
      return [], None

  print(f"Retrieved {len(records)} total records from {page_num} pages")
  return records, newest_effective_at

    • requirements.txt:

      functions-framework==3.*
google-cloud-storage==2.*
urllib3>=2.0.0

  3. Cliquez sur Déployer pour enregistrer et déployer la fonction.

  4. Attendez la fin du déploiement (deux à trois minutes).

Créer une tâche Cloud Scheduler

  1. Dans la console GCP, accédez à Cloud Scheduler.
  2. Cliquez sur Créer une tâche.

  3. Fournissez les informations de configuration suivantes :

    Paramètre Valeur
    Nom openai-auditlog-collector-hourly
    Région Sélectionnez la même région que la fonction Cloud Run.
    Fréquence 0 * * * * (toutes les heures, à l'heure pile)
    Fuseau horaire Sélectionnez un fuseau horaire (UTC recommandé).
    Type de cible Pub/Sub
    Sujet Sélectionner openai-auditlog-trigger
    Corps du message {} (objet JSON vide)

  4. Cliquez sur Créer.

Options de fréquence de programmation

Choisissez la fréquence en fonction du volume de journaux et des exigences de latence :

Fréquence Expression Cron Cas d'utilisation
Toutes les 5 minutes */5 * * * * Volume élevé, faible latence
Toutes les 15 minutes */15 * * * * Volume moyen
Toutes les heures 0 * * * * Standard (recommandé)
Toutes les 6 heures 0 */6 * * * Traitement par lot à faible volume
Tous les jours 0 0 * * * Collecte de données historiques

Tester l'intégration

  1. Dans la console Cloud Scheduler, recherchez votre job (openai-auditlog-collector-hourly).
  2. Cliquez sur Exécuter de force pour déclencher le job manuellement.
  3. Patientez quelques secondes.
  4. Accédez à Cloud Run > Services.
  5. Cliquez sur openai-auditlog-collector.
  6. Cliquez sur l'onglet Journaux.

  7. Vérifiez que la fonction s'est exécutée correctement. Par exemple :

    Fetching audit logs from YYYY-MM-DDTHH:MM:SS+00:00 to YYYY-MM-DDTHH:MM:SS+00:00
Page 1: Retrieved X events
Wrote X records to gs://openai-auditlog-logs/openai-auditlog/openai_auditlog_YYYYMMDD_HHMMSS.ndjson
Successfully processed X records

  8. Accédez à Cloud Storage > Buckets.

  9. Cliquez sur openai-auditlog-logs.

  10. Accédez au dossier openai-auditlog/.

  11. Vérifiez qu'un nouveau fichier .ndjson a été créé avec l'horodatage actuel.

Si des erreurs s'affichent dans les journaux :

  • HTTP 401 : vérifiez que la variable d'environnement OPENAI_ADMIN_KEY est correcte et que la clé n'a pas été révoquée.
  • HTTP 403 : vérifiez que la clé API est une clé API Admin créée par un Propriétaire de l'organisation.
  • HTTP 429 : limitation du débit. La fonction effectuera automatiquement une nouvelle tentative avec un intervalle exponentiel entre les tentatives.
  • Variables d'environnement manquantes : vérifiez que toutes les variables requises sont définies dans la configuration de la fonction Cloud Run.

Récupérer le compte de service Google SecOps

  1. Accédez à Paramètres SIEM> Flux.
  2. Cliquez sur Ajouter un flux.
  3. Cliquez sur Configurer un flux unique.
  4. Dans le champ Nom du flux, saisissez un nom pour le flux (par exemple, OpenAI Audit Logs).
  5. Sélectionnez Google Cloud Storage V2 comme Type de source.

  6. Sélectionnez Journaux d'audit OpenAI comme Type de journal. Cliquez sur Obtenir un compte de service. Une adresse e-mail de compte de service unique s'affiche. Exemple :

    chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.com

  7. Copiez cette adresse e-mail pour l'utiliser à l'étape suivante.

  8. Cliquez sur Suivant.

  9. Spécifiez les valeurs des paramètres d'entrée suivants :

    • URL du bucket de stockage : saisissez l'URI du bucket GCS avec le chemin d'accès au préfixe :

      gs://openai-auditlog-logs/openai-auditlog/
    • Option de suppression de la source : sélectionnez l'option de suppression de votre choix :
      • Jamais : ne supprime jamais aucun fichier après les transferts (recommandé pour les tests).
      • Supprimer les fichiers transférés : supprime les fichiers une fois le transfert réussi.
      • Supprimer les fichiers transférés et les répertoires vides : supprime les fichiers et les répertoires vides une fois le transfert réussi.
    • Âge maximal du fichier : incluez les fichiers modifiés au cours des derniers jours (180 jours par défaut).
    • Espace de noms de l'élément : espace de noms de l'élément
    • Libellés d'ingestion : libellé à appliquer aux événements de ce flux

  10. Cliquez sur Suivant.

  11. Vérifiez la configuration de votre nouveau flux sur l'écran Finaliser, puis cliquez sur Envoyer.

Accorder des autorisations IAM au compte de service Google SecOps

  1. Accédez à Cloud Storage > Buckets.
  2. Cliquez sur openai-auditlog-logs.
  3. Accédez à l'onglet Autorisations.
  4. Cliquez sur Accorder l'accès.
  5. Fournissez les informations de configuration suivantes :
    • Ajouter des comptes principaux : collez l'adresse e-mail du compte de service Google SecOps.
    • Attribuer des rôles : sélectionnez Lecteur d'objets Storage.

  6. Cliquez sur Enregistrer.

Table de mappage UDM

Champ de journal Mappage UDM Logique
actor.session.ip_address_details.region_code additional.fields Fusionnées sous forme de paires clé/valeur
actor.session.ip_address_details.asn additional.fields
effective_at metadata.event_timestamp Converti à partir d'un code temporel UNIX
has_principal metadata.event_type Défini sur "STATUS_UPDATE" si has_principal est défini sur "true", "NETWORK_CONNECTION" si has_principal et has_target sont définis sur "true", "FILE_COPY" si has_principal, has_file et has_source_file sont définis sur "true", "FILE_UNCATEGORIZED" si has_principal et has_file sont définis sur "true", "USER_UNCATEGORIZED" si has_user est défini sur "true", sinon "GENERIC_EVENT"
has_user metadata.event_type
has_target metadata.event_type
has_file metadata.event_type
has_source_file metadata.event_type
actor.session.user_agent network.http.parsed_user_agent Valeur copiée directement et convertie en user-agent analysé
actor.session.ja3 network.tls.client.ja3 Valeur copiée directement
actor.session.ip_address principal.asset.ip Valeur copiée directement
actor.session.ip_address principal.ip Valeur copiée directement
actor.session.ip_address_details.city principal.location.city Valeur copiée directement
actor.session.ip_address_details.country principal.location.country_or_region Valeur copiée directement
actor.session.ip_address_details.latitude principal.location.region_latitude Converti en float
actor.session.ip_address_details.longitude principal.location.region_longitude Converti en float
actor.session.ip_address_details.region principal.location.state Valeur copiée directement
actor.session.user.email principal.user.email_addresses Valeur copiée directement
actor.session.user.id principal.user.userid Extrait à l'aide d'un modèle grok
actor.session.ja4 security_result.detection_fields Fusionné en tant que paire clé/valeur avec la clé "ja4"
type security_result.summary Valeur copiée directement
metadata.product_name metadata.product_name Défini sur "OPENAI_AUDITLOG"
metadata.vendor_name metadata.vendor_name Défini sur "OPENAI_AUDITLOG"

Vous avez encore besoin d'aide ? Obtenez des réponses de membres de la communauté et de professionnels Google SecOps.