对方欠税,我还能拿他的发票去退税吗

不能。因为可能会导致您被认定为与对方有逃税行为。因此，建议您在返没这种情况下不要使用对方的发票进行退税操作，以免涉及到法桐世清律风局前险。