Zum Inhalt springen

Mistral Common Updates & Release Notes

30 Einträge aus 1 Quelle. Zuletzt aktualisiert:

Folge Mistral Common, um die Release Notes in deinen Feed zu holen.

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.12.0: Agnostischer Validierungsmodus

Mistral Common v1.12.0 bringt einen agnostischen Validierungsmodus, erlaubt das Überschreiben der automatisch erkannten Plain-Thinking-Unterstützung bei der Chat-Template-Erzeugung, ergänzt strengere Prüfungen (z. B. AudioConfig, ImageConfig, null-Tool-Call-IDs), behält beim Skalieren von Bildern mindestens ein Pixel pro Achse und markiert Tokenized.text zugunsten von tokenizer.decode als veraltet.

What's Changed

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common v1.11.7: Chat-Templates aus Tokenizer-Datei, strengere Validierung

Mistral Common v1.11.7 ergänzt die automatische Erzeugung von Chat-Templates aus einer Tokenizer-Datei, validiert special_token_policy-Strings beim Dekodieren und lehnt Thinking-Chunks in Tool-Nachrichten ab.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.6...v1.11.7

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common v1.11.6: Automatische Grammatikwahl und Fehlerbehebungen

Mistral Common v1.11.6 wählt die Grammatik-Variante automatisch anhand des Tokenizers, behebt das nicht übertragene seed-Feld bei der SpeechRequest-OpenAI-Konvertierung und weist ungültige AudioConfig-Werte nun früh mit klaren Fehlern ab.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.5...v1.11.6

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.11.5

Version 1.11.5 ist ein Hotfix, der die Reihenfolge von Inhalten bei mehreren Bildern in einer Nachricht korrigiert.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.4...v1.11.5

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.11.4

Version 1.11.4 bringt eine Chat-Templates-Integration, die Abkündigung von RawAudio zugunsten von str | bytes, Korrekturen bei der Audio-Serialisierung sowie das Laden von Tokenizern aus dem lokalen Cache im Offline-Modus.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.3...v1.11.4

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.11.3

Version 1.11.3 behebt die Weitergabe von continue_final_message in den Tekken-Normalizern, behält einen Seed von null bei und ergänzt ein Reasoning-Format in to_openai für AssistantMessage.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.2...v1.11.3

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.11.2

Version 1.11.2 verbessert die from_openai-Methoden.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.1...v1.11.2

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.11.1

Version 1.11.1 erlaubt Nutzernachrichten nach Tool-Nachrichten und macht from_openai toleranter, indem nicht unterstützte Felder stillschweigend verworfen werden.

What's Changed

This Patch allows usage of user message after tool message. It also makes from_openai less strict to make mistral-common integrations in other frameworks smoother.

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.11.0...v1.11.1

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.11.0 mit Mistral Guidance

Version 1.11.0 führt Mistral Guidance ein, womit sich per Lark-Grammatik gültige Reasoning-Spuren mit oder ohne Tool-Aufrufe erzeugen lassen, und verbessert die Tool-Auswahl.

What's Changed

Mistral Guidance is out !

Make use of lark grammar to guide your model in generating valid reasoning traces with or without tool calls !

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.10.0...v1.11.0

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.10.0: Tokenizer v15, Python 3.14

Version 1.10.0 ergänzt Tokenizer v15, Python-3.14-Unterstützung, strikten Function-Calling-Support und Speech Requests und erlaubt Systemprompts mit Audio für v13.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.9.1...v1.10.0

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.9.1

Version 1.9.1 überarbeitet die Online-Streaming-Verarbeitung von Audio und erlaubt eine dynamische Streaming-Verzögerung.

Refactor online streaming processing and allow for dynamic streaming delay

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.9.0...v1.9.1

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.9.0: Streaming-Transkriptionsanfragen

Mistral-Common kann jetzt Streaming-Anfragen verarbeiten, etwa über TranscriptionRequest mit StreamingMode.ONLINE oder OFFLINE für Audio-Transkription mit Voxtral-Mini-4B-Realtime-2602.

Mistral-Common can now process streaming requests

import numpy as np

from mistral_common.audio import Audio
from mistral_common.protocol.instruct.chunk import RawAudio
from mistral_common.protocol.transcription.request import (
    StreamingMode,
    TranscriptionRequest,
)
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer

# 1. Load the tokenizer with audio support
tokenizer = MistralTokenizer.from_hf_hub(
    "mistralai/Voxtral-Mini-4B-Realtime-2602"
)

# 2. Create sample audio data (or load from a file)
sampling_rate = 16_000
duration_s = 2.0
audio_array = np.random.uniform(-1, 1, size=int(duration_s * sampling_rate)).astype(np.float32)

audio = Audio(
    audio_array=audio_array,
    sampling_rate=sampling_rate,
    format="wav",
)

# 3. Create the streaming transcription request
request = TranscriptionRequest(
    audio=RawAudio(
        data=audio.to_base64("wav"),
        format="wav",
    ),
    streaming=StreamingMode.ONLINE,  # or StreamingMode.OFFLINE
    language=None,
)

# 4. Encode the request
tokenized = tokenizer.encode_transcription(request)

# 5. Access the results
print(f"Tokens: {tokenized.tokens}")
print(f"Number of tokens: {len(tokenized.tokens)}")
print(f"Number of audio segments: {len(tokenized.audios)}")

See https://huggingface.co/mistralai/Voxtral-Mini-4B-Realtime-2602 for more info.

What's Changed …

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.8.8

Version 1.8.8 ergänzt eine neue Token-Logik (asrstr) und behält aus Gründen der Abwärtskompatibilität das Attribut _control_tokens für vLLM bei.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.7...v1.8.8

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.8.7

Version 1.8.7 entfernt das Feld index aus Assistant-tool_calls, benennt get control in get special um und ergänzt is_special sowie TextChunk-Unterstützung für ToolMessage.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.6...v1.8.7

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.8.6: Python 3.9 entfällt

Version 1.8.6 entfernt die Unterstützung für Python 3.9, ergänzt Normalizer- und Validator-Hilfsfunktionen, optimiert die spm-decode-Funktion und übergibt revision und token korrekt an die hf_api.

What's Changed

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.8.5

Version 1.8.5 macht das Feld model in TranscriptionRequest optional, erlaubt leere Strings als Nachrichteninhalt und entfernt alle Responses und Embedding-Requests, während Transkriptions-Dokumentation ergänzt wird.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.4...v1.8.5

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.8.4: Optionale Abhängigkeiten

Version 1.8.4 macht sentencepiece optional, überarbeitet optionale Imports und erlaubt zufälliges Padding bei ChatCompletionResponseStreamResponse.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.3...v1.8.4

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.3: Experimentelle REST API

Version 1.8.3 führt eine experimentelle, auf FastAPI basierende REST API ein, die Tokenisierung, Generierung über eine Engine und Detokenisierung abdeckt und per mistral_common serve gestartet wird.

What's Changed

We released an experimental REST API leveraging Fast API to handle requests from tokenization, through generation via calls to an engine, to detokenization.

For a detailed documentation see [https://mistralai.github.io/mistral-common/usage/experimental/].

Here is how to launch the server:

pip install mistral-common[server]

mistral_common serve mistralai/Magistral-Small-2507 \
--host 127.0.0.1 --port 8000 \
--engine-url http://127.0.0.1:8080 --engine-backend llama_cpp \
--timeout 60

Then you can see the Swagger at: http://localhost:8000.

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.2...v1.8.3

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.2: ThinkChunk hinzugefügt

Version 1.8.2 erlaubt es, TextChunk und ThinkChunk in SystemMessage und AssistantMessage zu verwenden.

What's Changed

Now you can use TextChunk and ThinkChunk in your SystemMessage or AssistantMessage:

from mistral_common.protocol.instruct.messages import SystemMessage, TextChunk, ThinkChunk

system_message = SystemMessage(
    content = [
        TextChunk(text="First draft your thinking process (inner monologue) until you arrive at a response. Format your response using Markdown, and use LaTeX for any mathematical equations. Write both your thoughts and the response in the same language as the input.\n\nYour thinking process must follow the template below:"),
        ThinkChunk(
            thinking="Your thoughts or/and draft, like working through an exercise on scratch paper. Be as casual and as long as you want until you are confident to generate the response. Use the same language as the input.",
            closed=True,
        ),
        TextChunk(text="Here, provide a self-contained response.")
    ],
)

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.1...v1.8.2

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.1: AudioURLChunk hinzugefügt

Mit AudioURLChunk in Version 1.8.1 lassen sich http(s)-URLs, Dateipfade und Base64-Strings ohne Formatangabe in Content-Chunks verwenden.

What's Changed

Now you can use http(s) URLs, file paths and base64 string (without specifying format) in your content chunks thanks to AudioURLChunk !


from mistral_common.protocol.instruct.messages import AudioURL, AudioURLChunk, TextChunk, UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer

repo_id = "mistralai/Voxtral-Mini-3B-2507"
tokenizer = MistralTokenizer.from_hf_hub(repo_id)

text_chunk = TextChunk(
    text="Wat do you think about this audio?"
)
user_msg = UserMessage(
    content=[
        AudioURLChunk(audio_url=AudioURL(url="https://freewavesamples.com/files/Ouch-6.wav")),
        text_chunk,
    ]
)

request = ChatCompletionRequest(messages=[user_msg])
tokenized = tokenizer.encode_chat_completion(request)

# pass tokenized.tokens to your favorite audio model
print(tokenized.tokens)
print(tokenized.audios)

# print text to visually see tokens
print(tokenized.text)

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.0...v1.8.1

Originalquelle(öffnet in neuem Tab)Problem melden