paramètres de session ai_function_*

Paramètres de session ClickHouse dans le groupe généré « ai_function_* ».

Ces paramètres sont disponibles dans system.settings et sont générés automatiquement à partir du source.

​

ai_function_allow_insecure_endpoint

Si la valeur est false (valeur par défaut), les fonctions d’IA refusent d’utiliser un endpoint d’une collection nommée qui enverrait des prompts et des clés API via une connexion non chiffrée vers un hôte distant : tout endpoint non HTTPS dont l’hôte n’est pas une adresse de bouclage est rejeté avec une exception. Les endpoints de bouclage (par exemple, un serveur de modèle local http://localhost) sont toujours autorisés. Définissez cette valeur sur true pour autoriser les endpoints http:// en clair sur des hôtes distants.

​

ai_function_embedding_default_credentials

Nom de la collection nommée utilisée par les fonctions d’embedding (aiEmbed, aiSimilarity) lorsque l’appel ne fournit pas credentials dans son mappage de paramètres. Une valeur vide signifie qu’il n’existe aucune valeur par défaut : ces appels doivent donc fournir credentials explicitement. Ces fonctions prennent model comme argument positionnel obligatoire, et non depuis la collection nommée. Ce paramètre est distinct de ai_function_text_default_credentials, car un endpoint d’embeddings diffère d’un endpoint de chat.

​

ai_function_embedding_max_batch_size

Nombre maximal de textes pouvant être inclus dans une seule requête HTTP envoyée par les fonctions d’embedding (aiEmbed, aiSimilarity). Les textes sont regroupés en lots de cette taille afin de réduire la surcharge liée aux appels d’API. Par exemple, 500 textes uniques avec une taille de lot de 100 entraînent 5 requêtes HTTP.

​

ai_function_max_api_calls_per_query

Nombre maximal de requêtes HTTP que les fonctions d’IA peuvent émettre au cours d’une requête. Définissez cette valeur sur 0 pour désactiver.

​

ai_function_max_input_tokens_per_query

Nombre total maximal de tokens d’entrée (prompt) sur l’ensemble des appels à l’API de la fonction d’IA dans une seule requête. Comptabilisé de façon cumulative à partir des réponses du fournisseur. Notez que cette limite peut être dépassée à hauteur des tokens d’entrée d’un appel, car le nombre de tokens d’entrée d’un appel n’est pas connu à l’avance. Définissez-la sur 0 pour la désactiver.

Cette limite n’est appliquée qu’aux fournisseurs qui renvoient un objet usage dans leur réponse (OpenAI, Anthropic, vLLM). Les fournisseurs qui n’indiquent pas l’usage des tokens (notamment HuggingFace TEI) laissent le compteur à 0 — utilisez plutôt ai_function_max_api_calls_per_query pour plafonner ces appels.

​

ai_function_max_output_tokens_per_query

Nombre total maximal de tokens de sortie (complétion) pour l’ensemble des appels à l’API des fonctions d’IA au sein d’une même requête. Comptabilisé de façon cumulative à partir des réponses du fournisseur. Notez que cette limite peut être dépassée de l’équivalent des tokens de sortie d’un appel, car leur nombre n’est pas connu à l’avance. Définissez-la sur 0 pour la désactiver.

Cette limite n’est appliquée qu’aux fournisseurs qui renvoient un objet usage dans leur réponse (OpenAI, Anthropic, vLLM). Elle ne s’applique pas aux fonctions d’embedding (aiEmbed, aiSimilarity), qui ne produisent jamais de tokens de sortie.

​

ai_function_max_retries

Nombre maximal de tentatives en cas d’erreurs transitoires pour chaque requête d’API. Chaque tentative utilise un backoff exponentiel à partir de ai_function_retry_initial_delay_ms.

​

ai_function_request_timeout_sec

Délai d’expiration, en secondes, pour chaque requête HTTP effectuée par les fonctions d’IA (complétions de chat AI Chat et appels à l’API d’embedding). Si une requête ne se termine pas dans ce délai, elle est considérée comme échouée et peut être retentée conformément à ai_function_max_retries.

​

ai_function_retry_initial_delay_ms

Délai initial, en millisecondes, avant la première nouvelle tentative d’une requête d’API de fonction d’IA ayant échoué. Le délai est doublé à chaque tentative suivante (backoff exponentiel). Par exemple, avec les paramètres par défaut : 1000ms, 2000ms, 4000ms.

​

ai_function_text_default_credentials

Nom de la collection nommée utilisée par les fonctions d’IA de texte (aiGenerate, aiClassify, aiFilter, aiExtract, aiTranslate, aiRedact) lorsque l’appel ne transmet pas credentials dans son mappage de paramètres. Une valeur vide signifie qu’il n’y a pas de valeur par défaut : ces appels doivent donc transmettre credentials explicitement. Un endpoint de chat-completions étant différent d’un endpoint d’embeddings, ce paramètre est distinct de ai_function_embedding_default_credentials.

​

ai_function_throw_on_error

Si true (par défaut), un appel à une fonction d’IA qui échoue de façon définitive après épuisement de toutes les tentatives interrompt la requête en générant une exception. Si false, la ligne en échec reçoit la valeur par défaut du type de colonne (chaîne vide pour String) et le traitement se poursuit.

​

ai_function_throw_on_quota_exceeded

Si true (par défaut), le dépassement d’une limite de quota d’une fonction d’IA (ai_function_max_input_tokens_per_query, ai_function_max_output_tokens_per_query ou ai_function_max_api_calls_per_query) interrompt la requête en levant une exception. Si false, les lignes restantes reçoivent la valeur par défaut du type de colonne (chaîne vide pour String).