درّب باحثون من OpenAI أحد أكبر النماذج اللغوية والتي تسمى GPT-3 مع 175 مليار بارامترات. وقد طُوّر GPT-3 لدراسة تأثير عدد البارامترات على قدرات التعلُّم المحدودة في نماذج اللغة. ويُظهر النموذج أداءً واعدًا لمجموعة من مهام معالجة اللغة الطبيعية، مثل: الإجابة على الأسئلة، والترجمة، كذلك كتابة النصوص، وإجراء المحادثات. وفي إحدى التجارب، استطاعت تلك النماذج كتابة مقالات إخبارية كاملة، والتي زوّدها الباحثون بالعناوين فقط. وفي حالات كثيرة، كان من الصّعب على الأفراد المقيميّن التمييز بين مقالات تلك النماذج، والمقالات التي كتبها الإنسان.