Несмотря на свои попытки установить связь с Бану Хашим, Умар все же продолжал придерживаться той точки зрения, что в вопросах религиозной догматики духовная и светская власть не должны быть сосредоточены в руках одного клана. Действительно, признание об утверждении и принятии изречения Мухаммада об отсутствии наследников стало частью присяги на верность Умару. Как и Абу Бакр, Умар был убежден, что такая власть под контролем Бану Хашим окажется пагубной для мусульманской общины. Тем не менее он не мог игнорировать возрастающую популярность Али. Не желая совершить такую же ошибку, как и Абу Бакр, продолжая курс на отчуждение Бану Хашим, Умар отказался от практики определения преемника, а предпочел вместо этого традиционный созыв шуры.
На смертном одре (Умар был ранен персидским рабом Фирузом) он собрал вместе шесть главных кандидатов на роль халифа, включая наконец и Али, и дал им три дня, чтобы решить между собой, кто будет руководить общиной после его смерти. Незадолго до этого рядом с ним остались только двое: Али, отпрыск Бану Хашим, и некий непримечательный семидесятилетний старик по имени Усман ибн Аффан.
Богатый член клана Омейядов, клана ожесточенных врагов Мухаммада, Абу Суфьяна и Хинды, Усман был курайшитом. Хотя он был в числе первых обращенных в ислам, он никогда не проявлял никаких лидерских качеств; он был торговцем, но не воином. Мухаммад очень любил Усмана, но никогда не доверял ему руководить набегами на караваны или армией от его имени – то, что почти каждый мужчина, присутствующий на шуре, совершал не один раз. Но именно его неопытность и отсутствие политических амбиций делали его столь привлекательным для избрания. Он был идеальной альтернативой Али: разумный, надежный старик, который не стал бы раскачивать лодку.
В конце концов и Али и Усману задал по два вопроса Абд ар-Рахман, который, несмотря на то что был шурином Усмана, был избран на роль хакама в споре между двумя мужчинами. Первый вопрос был таким: будет ли каждый из них управлять в соответствии с принципами, изложенными в Коране, и согласно личному примеру Мухаммада? Оба ответили утвердительно. Второй вопрос оказался неожиданным: будет ли каждый из них, став халифом, строго следовать тем установкам, которые были заложены двумя предыдущими халифами – Абу Бакром и Умаром?
Это было не только совершенно беспрецедентное требование к способу управления общиной, но и было очевидно, что оно предназначалось одному конкретному кандидату. В то время как Усман ответил, что он будет следовать примеру предшественников в моменты принятия решений на посту халифа, Али окинул присутствующих тяжелым взглядом и спокойно ответил: «Нет». Он будет следовать только заветам Бога и собственным суждениям.