Den tyske anfallaren låg bakom båda målen i Londonderbyt och har haft en imponerande inledning på PL-säsongen.
Det har lett till att Gyökeres fått se på från sidan, utöver de tolv minuter han fick under söndagens match.
Men efter Havertz prestation rådde det inga tvivel om vem Carragher tycker borde starta framöver för Arsenal.
– För att ersätta Kai Havertz i det här laget så måste du ta in en av de bästa spelarna i världen. Det måste vara en Ian Wright, en Thierry Henry. En som garanterar 30 mål per säsong, säger tv-experten i Sky Sports.
”Handlar om vad de gör för laget”
Det är inte den svenske landslagsstjärnan, menar Carragher.
– Gyökeres kommer aldrig att ta Havertz plats, någonsin, säger han och fortsätter:
– Det handlar inte bara om vad de ger i anfallsspelet. Det handlar om vad de gör för laget. En av anledningarna till att det är svårt att bryta ner Arsenal är hur de pressar längst fram.
Havertz hade stora skadeproblem förra säsongen när Gyökeres gjorde 14 mål i sin debutsäsong i Premier League. Mikel Arteta gav även tysken förtroendet att starta i Champions League-finalen.