Erőszakos és pornográf képeket generál a ChatGPT akkor is, ha nem erre kérik. Mindezt ráadásul egy olyan prompt segítségével, ami széles körben elterjedt, és amit eredetileg vicces tartalmak generálására készítettek. Az OpenAI már tett lépéseket annak érdekében, hogy a rendszer többé ne generáljon ilyen jellegű képeket.