Task di classificazione di coppie di frasi
Un task che misura l’inferenza nel linguaggio naturale e la similarità semantica tra due frasi date.

Come nella classificazione di singole frasi, un classifier sul token CLS gestisce la classificazione. La differenza è che entrambe le frasi vengono inserite nel modello insieme, separate da un token SEP.
NLI
Natural language inference.
- Un task che verifica se un language model comprende il contesto del linguaggio naturale
- Classifica Premise (premessa) e Hypothesis (ipotesi) come segue:
- Entailment (implicazione): l’ipotesi è vera
- Contradiction (contraddizione): l’ipotesi è falsa
- Neutral (neutro): l’ipotesi si presume vera, o è difficile giudicare con certezza
Semantic text pair
Un task che verifica se due frasi hanno lo stesso significato.
IRAQ
Information Retrieval Question and Answering. Un task che trova la risposta più appropriata da un set QA predefinito per una data domanda. 
La struttura di base è la stessa di un chatbot tipico. Si confronta la query dell’utente con query predefinite per similarità e si restituisce la risposta della query più simile.
La differenza è che alla fine del modello si aggiunge un Paraphrase Detection. Il task precedente produce le prime n risposte con alta similarità, e questo modello trova la risposta più appropriata tra di esse. Diventa un modello che inferisce la similarità semantica.