Nach der Gründung des Staates Israel wurde er zum federführenden Juristen des Landes und wirkte als Staatsanwalt, Generalstaatsanwalt, als Justizminister und über Jahre als Richter des Obersten Gerichts. Er arbeitete eng mit Fritz Bauer in Frankfurt zusammen, um Adolf Eichmann vor Gericht zu bringen. Die Urteile, die er fällte, standen immer im Zeichen der Menschenrechte, besonders im israelisch-palästinensischen Konflikt. Und er setzte durch, dass Homosexualität im Staat Israel nicht bestraft wurde, wie es das britische Recht noch für das Mandatsgebiet vorsah.

Chaim Cohns zahlreiche Bücher und Aufsätze zeigen seine profunde juristische wie geistliche Bildung. Seine Autobiographie erweist ihn als einen herausragenden Vertreter des deutschen Judentums in Israel.