Bibliographie

I - Accompagnement

Généralité

• Qu’est ce que l’IA ?

• What We Learned from a Year of Building with LLMs (Part I)

• What We Learned from a Year of Building with LLMs (Part II)

Guides pour la prise en compte de l’impact de l’IA

• ARCEP & ADEME de 2023

• AFNOR IA frugale

• Guide de recommandation de sécurité de l’ANSSI

• AI Act

II - Développement

Plateforme de partage de modèles

• HuggingFace

Articles de recherche centraux

Transformers

• Papier original ‘Attention Is All You Need’
• Explication illustrée et très détaillée
• Les différents types de modèles
• Les Mixture of Experts

Fine-tuning

• LoRA

• QLoRA

• DoRA

• Introduction au RLHF

• DPO

• KTO

Bonnes pratiques du prompt engineering

• Principled Instructions Are All You Need for Questioning LLaMA-1/2, GPT-3.5/4
• Graph of Thoughts

Evaluation (métriques)

Basée sur embeddings	Basée sur modèle fine-tuné	Basé sur LLM
BERTScore	UniEval	G-Eval
MoverScore	Lynx	GPTScore
	Prometheus-eval

Evaluation (frameworks) - Ragas (spécialisé pour le RAG) - Ares (spécialisé pour le RAG) - Giskard - DeepEval

Evaluation (RAG) - Evaluation of Retrieval-Augmented Generation: A Survey - Automated Evaluation of Retrieval-Augmented Language Models with Task-Specific Exam Generation

Evaluation (divers) - Prompting strategies for LLM-based metrics - LLM-based NLG Evaluation: Current Status and Challenges - Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena

Librairies et ressources

LLM platform - Ollama

Pipelines et orchestration LLM - LangChain - LlamaIndex - Haystack

RAG - Graph RAG

Evaluation - SelfCheckGPT