'Abdullah ibn 'Amr was heard to say, "Abu Bakr, may Allah be pleased with him, said to the Prophet, may Allah bless him and grant him peace, 'Teach me a supplication which I can use in my prayer.' He said, 'Say, "O Allah, I have wronged myself greatly. Only You forgive wrong actions. Forgive me with forgiveness directly from you. You are the Ever-Forgiving, Most Merciful."'"
Source: sunnah.com
Other translations
Arabic
حَدَّثَنَا يَحْيَى بْنُ سُلَيْمَانَ، قَالَ: حَدَّثَنَا ابْنُ وَهْبٍ، قَالَ: أَخْبَرَنِي عَمْرٌو، عَنْ يَزِيدَ بْنِ أَبِي حَبِيبٍ، عَنْ أَبِي الْخَيْرِ، أَنَّهُ سَمِعَ عَبْدَ اللهِ بْنَ عَمْرٍو قَالَ: قَالَ أَبُو بَكْرٍ رَضِيَ اللَّهُ عَنْهُ لِلنَّبِيِّ صلى الله عليه وسلم: عَلِّمْنِي دُعَاءً أَدْعُو بِهِ فِي صَلاَتِي، قَالَ: قُلِ: اللَّهُمَّ إِنِّي ظَلَمْتُ نَفْسِي ظُلْمًا كَثِيرًا، وَلاَ يَغْفِرُ الذُّنُوبَ إِلاَّ أَنْتَ، فَاغْفِرْ لِي مِنْ عِنْدِكَ مَغْفِرَةً، إِنَّكَ أَنْتَ الْغَفُورُ الرَّحِيمُ.
sunnah.com