Index

_

__aiter__() (kani.streaming.StreamManager method) __await__() (kani.streaming.StreamManager method)

__call__() (kani.PromptPipeline method) __str__() (kani.MessagePart method)

A

add_completion_to_history() (kani.Kani method) add_to_history() (kani.Kani method) ai_function() (in module kani) AIFunction (class in kani) AIParam (class in kani) all_message_contents() (in module kani.utils.message_formatters) always_included_messages (kani.Kani attribute) always_len (kani.Kani property) AnthropicEngine (class in kani.engines.anthropic)

AnthropicUnknownPart (class in kani.engines.anthropic) apply() (kani.PromptPipeline method) ApplyContext (class in kani.prompts) arguments (kani.FunctionCall attribute) ASSISTANT (kani.ChatRole attribute) assistant() (kani.ChatMessage class method) assistant_message_contents() (in module kani.utils.message_formatters) assistant_message_contents_thinking() (in module kani.utils.message_formatters) assistant_message_thinking() (in module kani.utils.message_formatters)

B

BaseCompletion (class in kani.engines.base) BaseEngine (class in kani.engines)

BaseParser (class in kani.model_specific) build_prompt() (kani.engines.huggingface.HuggingEngine method) (kani.engines.llamacpp.LlamaCppEngine method)

C

chat_history (kani.Kani attribute) chat_in_terminal() (in module kani) chat_in_terminal_async() (in module kani) chat_round() (kani.Kani method) chat_round_str() (kani.Kani method) chat_round_stream() (kani.Kani method) ChatCompletion (class in kani.engines.openai.translation) ChatMessage (class in kani) ChatRole (class in kani) close() (kani.engines.anthropic.AnthropicEngine method) (kani.engines.BaseEngine method) (kani.engines.llamacpp.LlamaCppEngine method) (kani.engines.openai.OpenAIEngine method)

Completion (class in kani.engines) completion() (kani.streaming.StreamManager method) completion_tokens (kani.engines.base.BaseCompletion property) (kani.engines.Completion property) content (kani.ChatMessage attribute) (kani.parts.ReasoningPart attribute) conversation_dict() (kani.PromptPipeline method) conversation_fmt() (kani.PromptPipeline method) copy_with() (kani.ChatMessage method) create_json_schema() (kani.AIFunction method)

D

data (kani.engines.anthropic.AnthropicUnknownPart attribute) DeepSeekR1Parser (class in kani.model_specific.deepseek) disable_function_calling_kwargs (kani.engines.anthropic.AnthropicEngine attribute) (kani.engines.BaseEngine attribute) (kani.engines.openai.OpenAIEngine attribute)

do_function_call() (kani.Kani method)

E

engine (kani.engines.WrapperEngine attribute) ensure_bound_function_calls() (kani.PromptPipeline method) ensure_start() (kani.PromptPipeline method) ExceptionHandleResult (class in kani) execute() (kani.PromptPipeline method) (kani.prompts.PipelineStep method)

explain() (kani.PromptPipeline method) (kani.prompts.PipelineStep method) explain_example_kwargs() (kani.prompts.PipelineStep method) extra (kani.ChatMessage attribute) (kani.MessagePart attribute)

F

format_stream() (in module kani) format_width() (in module kani) from_function() (kani.ToolCall class method) from_function_call() (kani.ToolCall class method) full_round() (kani.Kani method) full_round_str() (kani.Kani method) full_round_stream() (kani.Kani method) FUNCTION (kani.ChatRole attribute) function (kani.ToolCall attribute) function() (kani.ChatMessage class method) function_call (kani.ChatMessage property)

function_call_fmt() (kani.PromptPipeline method) function_token_reserve() (kani.engines.anthropic.AnthropicEngine method) (kani.engines.BaseEngine method) (kani.engines.google.GoogleAIEngine method) (kani.engines.huggingface.HuggingEngine method) (kani.engines.llamacpp.LlamaCppEngine method) (kani.engines.openai.OpenAIEngine method) FunctionCall (class in kani) FunctionCallException FunctionCallResult (class in kani) functions (kani.prompts.ApplyContext attribute) FunctionSpecError

G

get_ctx() (in module kani.utils.saveload) get_enabled_functions() (kani.Kani method) get_model_completion() (kani.Kani method)

get_model_stream() (kani.Kani method) get_prompt() (kani.Kani method) GoogleAIEngine (class in kani.engines.google) GPTOSSParser (class in kani.model_specific.gpt_oss)

H

handle_function_call_exception() (kani.Kani method)

HuggingEngine (class in kani.engines.huggingface)

I

id (kani.ToolCall attribute) idx (kani.prompts.ApplyContext attribute)

is_last (kani.prompts.ApplyContext attribute) is_last_of_type (kani.prompts.ApplyContext property) is_tool_call_error (kani.ChatMessage attribute)

K

Kani (class in kani) kani.exceptions module kani.prompts module

kani.utils.message_formatters module KaniException KaniZipSaveContext (class in kani.utils.saveload) kwargs (kani.FunctionCall property)

L

LlamaCppEngine (class in kani.engines.llamacpp)

load() (kani.Kani method) load_bytes() (kani.utils.saveload.KaniZipSaveContext method)

M

macro_apply() (kani.PromptPipeline method) max_context_size (kani.engines.BaseEngine attribute) merge_consecutive() (kani.PromptPipeline method) message (kani.engines.base.BaseCompletion property) (kani.engines.Completion property) message() (kani.streaming.StreamManager method) message_len() (kani.engines.anthropic.AnthropicEngine method) (kani.engines.BaseEngine method) (kani.engines.google.GoogleAIEngine method) (kani.engines.huggingface.HuggingEngine method) (kani.engines.llamacpp.LlamaCppEngine method) (kani.engines.openai.OpenAIEngine method)

message_token_len() (kani.Kani method) MessagePart (class in kani) messages (kani.prompts.ApplyContext attribute) MessageTooLong MissingMessagePartType MissingModelDependencies MistralToolCallParser (class in kani.model_specific.mistral) module kani.exceptions kani.prompts kani.utils.message_formatters msg (kani.prompts.ApplyContext attribute)

N

NaiveJSONToolCallParser (class in kani.model_specific.json) name (kani.ChatMessage attribute) (kani.FunctionCall attribute)

NoSuchFunction

O

OpenAIEngine (class in kani.engines.openai)

P

parse_completion() (kani.model_specific.BaseParser method) parse_reasoning() (kani.model_specific.BaseParser method) parse_tool_calls() (kani.model_specific.BaseParser method) parts (kani.ChatMessage property) PipelineStep (class in kani.prompts) predict() (kani.engines.anthropic.AnthropicEngine method) (kani.engines.BaseEngine method) (kani.engines.google.GoogleAIEngine method) (kani.engines.huggingface.HuggingEngine method) (kani.engines.llamacpp.LlamaCppEngine method) (kani.engines.openai.OpenAIEngine method) (kani.model_specific.BaseParser method) print_stream() (in module kani)

print_width() (in module kani) prompt_len() (kani.engines.anthropic.AnthropicEngine method) (kani.engines.BaseEngine method) (kani.engines.google.GoogleAIEngine method) (kani.engines.huggingface.HuggingEngine method) (kani.engines.llamacpp.LlamaCppEngine method) (kani.engines.openai.OpenAIEngine method) prompt_token_len() (kani.Kani method) prompt_tokens (kani.engines.base.BaseCompletion property) (kani.engines.Completion property) PromptError PromptPipeline (class in kani) PromptTooLong

Q

Qwen3Parser (class in kani.model_specific.qwen3)

R

ReasoningPart (class in kani.parts) remove() (kani.PromptPipeline method)

role (kani.ChatMessage attribute) (kani.streaming.StreamManager attribute)

S

save() (kani.Kani method) save_bytes() (kani.utils.saveload.KaniZipSaveContext method) stream() (kani.engines.anthropic.AnthropicEngine method) (kani.engines.BaseEngine method) (kani.engines.google.GoogleAIEngine method) (kani.engines.huggingface.HuggingEngine method) (kani.engines.llamacpp.LlamaCppEngine method) (kani.engines.openai.OpenAIEngine method) (kani.model_specific.BaseParser method)

StreamManager (class in kani.streaming) SYSTEM (kani.ChatRole attribute) system() (kani.ChatMessage class method)

T

text (kani.ChatMessage property) token_reserve (kani.engines.anthropic.AnthropicEngine attribute) (kani.engines.BaseEngine attribute) (kani.engines.google.GoogleAIEngine attribute) (kani.engines.huggingface.HuggingEngine property) (kani.engines.llamacpp.LlamaCppEngine property) tool_call_id (kani.ChatMessage attribute)

tool_calls (kani.ChatMessage attribute) ToolCall (class in kani) translate_functions() (kani.engines.openai.OpenAIEngine method) translate_kani_message_to_openai() (kani.engines.openai.OpenAIEngine static method) translate_kani_message_to_openai_responses() (kani.engines.openai.OpenAIEngine static method) translate_messages() (kani.engines.openai.OpenAIEngine method) translate_role() (kani.PromptPipeline method) type (kani.ToolCall attribute)

U

USER (kani.ChatRole attribute)

user() (kani.ChatMessage class method)

W

with_args() (kani.FunctionCall class method) wrap() (kani.PromptPipeline method)

WrappedCallException WrapperEngine (class in kani.engines)