Zum Inhalt springen

Mistral Release Notes

83 Einträge aus 2 Quellen. Zuletzt aktualisiert:

Folge Mistral, um die Release Notes in deinen Feed zu holen.

Feed abonnieren:RSS: Feed für Mistral Release NotesAPI: Einträge von Mistral Release Notes als JSON
Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.3: Experimentelle REST API

Version 1.8.3 führt eine experimentelle, auf FastAPI basierende REST API ein, die Tokenisierung, Generierung über eine Engine und Detokenisierung abdeckt und per mistral_common serve gestartet wird.

What's Changed

We released an experimental REST API leveraging Fast API to handle requests from tokenization, through generation via calls to an engine, to detokenization.

For a detailed documentation see [https://mistralai.github.io/mistral-common/usage/experimental/].

Here is how to launch the server:

pip install mistral-common[server]

mistral_common serve mistralai/Magistral-Small-2507 \
--host 127.0.0.1 --port 8000 \
--engine-url http://127.0.0.1:8080 --engine-backend llama_cpp \
--timeout 60

Then you can see the Swagger at: http://localhost:8000.

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.2...v1.8.3

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Magistral 1.1, Document Library API und Audio-SDK-Support

Mistral hat Magistral Medium 1.1 (magistral-medium-2507) und Magistral Small 1.1 (magistral-small-2507) sowie eine Document Library API zur Verwaltung von Libraries veröffentlicht, und das SDK unterstützt nun Audio und Transcription.

  • We released Magistral Medium 1.1 (magistral-medium-2507) and Magistral Small 1.1 (magistral-small-2507). MODEL RELEASED
  • We released a Document Library API to manage libraries. API UPDATED
  • SDK support for Audio and Transcription available. OTHER

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.2: ThinkChunk hinzugefügt

Version 1.8.2 erlaubt es, TextChunk und ThinkChunk in SystemMessage und AssistantMessage zu verwenden.

What's Changed

Now you can use TextChunk and ThinkChunk in your SystemMessage or AssistantMessage:

from mistral_common.protocol.instruct.messages import SystemMessage, TextChunk, ThinkChunk

system_message = SystemMessage(
    content = [
        TextChunk(text="First draft your thinking process (inner monologue) until you arrive at a response. Format your response using Markdown, and use LaTeX for any mathematical equations. Write both your thoughts and the response in the same language as the input.\n\nYour thinking process must follow the template below:"),
        ThinkChunk(
            thinking="Your thoughts or/and draft, like working through an exercise on scratch paper. Be as casual and as long as you want until you are confident to generate the response. Use the same language as the input.",
            closed=True,
        ),
        TextChunk(text="Here, provide a self-contained response.")
    ],
)

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.1...v1.8.2

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.1: AudioURLChunk hinzugefügt

Mit AudioURLChunk in Version 1.8.1 lassen sich http(s)-URLs, Dateipfade und Base64-Strings ohne Formatangabe in Content-Chunks verwenden.

What's Changed

Now you can use http(s) URLs, file paths and base64 string (without specifying format) in your content chunks thanks to AudioURLChunk !


from mistral_common.protocol.instruct.messages import AudioURL, AudioURLChunk, TextChunk, UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer

repo_id = "mistralai/Voxtral-Mini-3B-2507"
tokenizer = MistralTokenizer.from_hf_hub(repo_id)

text_chunk = TextChunk(
    text="Wat do you think about this audio?"
)
user_msg = UserMessage(
    content=[
        AudioURLChunk(audio_url=AudioURL(url="https://freewavesamples.com/files/Ouch-6.wav")),
        text_chunk,
    ]
)

request = ChatCompletionRequest(messages=[user_msg])
tokenized = tokenizer.encode_chat_completion(request)

# pass tokenized.tokens to your favorite audio model
print(tokenized.tokens)
print(tokenized.audios)

# print text to visually see tokens
print(tokenized.text)

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.8.0...v1.8.1

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Erste Audio-Modelle Voxtral und Transcription API

Mistral hat seine ersten Audio-Modelle Voxtral Small und Voxtral Mini für Chat-Anwendungen sowie Voxtral Mini Transcribe über die Transcription API (audio/transcriptions) veröffentlicht.

  • We released our first Audio models for chat and a Transcription API:
    • Voxtral Small (voxtral-small-2507) available for chat use cases MODEL RELEASED
    • Voxtral Mini (voxtral-mini-2507) available for chat use cases MODEL RELEASED
    • Voxtral Mini Transcribe (voxtral-mini-2507 via audio/transcriptions) optimized for transcription MODEL RELEASED API UPDATED

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.8.0: Audio-Unterstützung

Version 1.8.0 fügt Audio-Unterstützung hinzu, sodass AudioChunk-Inhalte in Chat-Anfragen tokenisiert werden können, wie im Beispiel mit voxtral-mini.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.7.0...v1.8.0

Audio chat example:

from mistral_common.protocol.instruct.messages import TextChunk, AudioChunk, UserMessage, AssistantMessage, RawAudio
from mistral_common.protocol.instruct.request import ChatCompletionRequest
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.audio import Audio
from huggingface_hub import hf_hub_download

repo_id = "mistralai/voxtral-mini"
tokenizer = MistralTokenizer.from_hf_hub(repo_id)

obama_file = hf_hub_download("patrickvonplaten/audio_samples", "obama.mp3", repo_type="dataset")
bcn_file = hf_hub_download("patrickvonplaten/audio_samples", "bcn_weather.mp3", repo_type="dataset")

def file_to_chunk(file: str) -> AudioChunk:
    audio = Audio.from_file(file, strict=False)
    return AudioChunk.from_audio(audio)

text_chunk = TextChunk(text="Which speaker do you prefer between the two? Why? How are they different from each other?")
user_msg = UserMessage(content=[file_to_chunk(obama_file), file_to_chunk(bcn_file), text_chunk]).to_openai()


request = ChatCompletionRequest(messages=[user_msg])
tokenized = tokenizer.encode_chat_completion(request)

# pass tokenized.tokens to your favorite audio model
print(tokenized.tokens)
print(tokenized.audios) …

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Devstral Small 1.1 und Devstral Medium veröffentlicht

Mistral hat Devstral Small 1.1 (devstral-small-2507) und Devstral Medium (devstral-medium-2507) veröffentlicht.

  • We released Devstral Small 1.1 (devstral-small-2507) and Devstral Medium (devstral-medium-2507). MODEL RELEASED

Jun 25

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.7.0: v13-Tokenizer und Umbenennung

Version 1.7.0 fügt den v13-Tokenizer hinzu und benennt multi-modal in image um.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.6.3...v1.7.0

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.6.3: Besseres from_hf_hub, Multiprocessing

Version 1.6.3 verbessert die Hugging-Face-Hub-Integration, behebt einen Pickle-Fehler bei Multiprocessing mit dem Tokenizer, verbessert decode, markiert to_string als veraltet und korrigiert mehrere Fehlermeldungen.

What's Changed

New Contributors

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Magistral Medium und Magistral Small veröffentlicht

Mistral hat Magistral Medium (magistral-medium-2506) und Magistral Small (magistral-small-2506) veröffentlicht.

  • We released Magistral Medium (magistral-medium-2506) and Magistral Small (magistral-small-2506). MODEL RELEASED

May 25

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common 1.6.0: v11-Tokenizer, neue Doku, from_hf_hub

Version 1.6.0 bringt den v11-Instruct-Tokenizer, überarbeitete Dokumentation, die Methode from_hf_hub, Unterstützung für file://-URIs und das OpenAI-Format für Chat Completions.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.5.6...v1.6.0

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.5.6

Version 1.5.6 erlaubt es bei Tokenizern ab v7, Inhalt und Tool Calls gemeinsam zu definieren.

What's Changed

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.5.5...v1.5.6

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Mistral OCR 2 und Annotations veröffentlicht

Mistral hat Mistral OCR 2 (mistral-ocr-2505) sowie Annotations für die Dokumentverarbeitung veröffentlicht.

  • We released Mistral OCR 2 (mistral-ocr-2505) and annotations. MODEL RELEASED API UPDATED

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Devstral Small veröffentlicht

Mistral hat Devstral Small (devstral-small-2505) veröffentlicht.

  • We released Devstral Small (devstral-small-2505). MODEL RELEASED

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral Common von Mistral

Mistral Common Version 1.5.5

Version 1.5.5 markiert Runtime Special Tokens für den Tekkenizer als veraltet und ändert die Standard-Special-Token-Policy von Tekken.

What's Changed

New Contributors

Full Changelog: https://github.com/mistralai/mistral-common/compare/v1.5.4...v1.5.5

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Mistral Medium 3 veröffentlicht

Mistral hat Mistral Medium 3 (mistral-medium-2505) veröffentlicht.

  • We released Mistral Medium 3 (mistral-medium-2505). MODEL RELEASED

Apr 25

Originalquelle(öffnet in neuem Tab)Problem melden

Angaben zum Datum

Datum aus der Quelle.

Erstmals gesehen am .

Mistral

Classifier Factory veröffentlicht

Mistral hat die Classifier Factory veröffentlicht.

  • We released the Classifier Factory. API UPDATED

Mar 25

Originalquelle(öffnet in neuem Tab)Problem melden

Ähnlich wie Mistral, mit neuen Einträgen