1961 年 7 月，贝内特先生在阿肯色州温泉城演出，正准备前往西海岸时，他的长期钢琴家拉尔夫·沙龙为他演奏了一首由乔治·科里和道格拉斯·克罗斯创作的歌曲，这首歌在抽屉里腐烂了两年。 沙龙先生和贝内特先生决定，他们下次约会的地点是在旧金山费尔蒙酒店，这将是完美的选择，事实也确实如此。
六个月后，也就是 1962 年 1 月，他们录制了这首歌——当然是《我把我的心留在了旧金山》。这首歌为贝内特先生赢得了他的前两项格莱美奖，年度最佳男歌手独奏表演奖和最佳唱片奖，并享誉全球。 在《美好生活》中，他写道，经常有人问他是否厌倦了唱这首歌。
“我回答说，‘你厌倦做爱了吗？’”他写道。
仅仅五个月后，贝内特先生与沙龙先生和一个小型管弦乐队一起在卡内基音乐厅演出。 他得到了轰动的评论——尽管《泰晤士报》的评价是经过衡量的——而音乐会的录音现在被认为是经典。
但随着 20 世纪 60 年代的到来，摇滚乐占据主导地位，贝内特先生的受欢迎程度开始下滑。 1969 年，他屈服于哥伦比亚唱片公司新任总裁克莱夫·戴维斯 (Clive Davis) 的压力，录制了他自己版本的当代歌曲，结果是“托尼唱出了当今最热门的歌曲！” ——包括披头士乐队的《Eleanor Rigby》和《Something》——是一场音乐灾难，贝内特后来告诉一位采访者，这张唱片让他呕吐了。
他与哥伦比亚的关系进一步恶化并最终结束，到 20 世纪 70 年代中期，贝内特先生成立了自己的公司 Improv Records，在该公司录制了他最受评论界赞赏的两张专辑中的第一张，即与爵士钢琴家比尔·埃文斯 (Bill Evans) 的二重奏。 （第二张专辑由 Evans 的厂牌 Fantasy 发行。）两人共同创办了纽波特爵士音乐节，该音乐节于 1976 年移至纽约卡内基音乐厅。