Изоляция — возникновение любых барьеров, ограничивающих панмиксию. Значение изоляции в процессе эволюции и сводится к нарушению свободного скрещивания, что ведет к увеличению и закреплению различий между популяциями и отдельными частями всего населения вида. Без такого закрепления эволюционных различий невозможно никакое формообразование.
Разнообразие форм и проявлений изоляции в природе так велико, что для понимания эволюционной роли изоляции необходимо кратко описать основные ее проявления в природе.
Классификация явлений изоляции. В природе существуют пространственная и биологическая изоляции.
Пространственная изоляция может существовать в разных формах: водные барьеры разделяют население «сухопутных» видов, а барьеры суши изолируют население видов-гидробионтов; возвышенности изолируют равнинные популяции, а равнины — горные популяции и т. д. Сравнительно малоподвижные животные — наземные моллюски на Гавайских островах связаны с влажными долинами. В результате, в каждой из сотен долин на больших островах возникает самостоятельная популяция со своими специфическими особенностями.
Возникновение территориально-механической изоляции объясняется историей развития видов на определенных территориях. За время, прошедшее после исчезновения ледников, изолированные формы еще не приобрели значительных морфофизиологических различий и относятся, по-видимому, к единым видам.
В настоящее время в связи с деятельностью человека в биосфере все чаще и чаще возникает подобная пространственная изоляция отдельных популяций внутри очень многих видов. Типичным примером стало возникновение в Евразии к началу XX в. разорванного ареала у соболя (Martes zibellina) — результат интенсивного промысла. Обычно быстрое возникновение подобного разорванного ареала служит опасным симптомом возможного исчезновения вида.
Пространственная изоляция может возникнуть внутри видов малоподвижных животных и растений, не разделенных заметными физико-географическими барьерами. Известно, что обыкновенный соловей (Luscinia luscinia), населяющий многие районы центральной части европейской территории России, в настоящее время практически сплошь находит подходящие условия для гнездования как в не обжитых человеком местах, так и в зарослях по обочинам дорог, в парках и даже скверах больших городов. Пространственная изоляция внутри вида существует в двух проявлениях: изоляция какими-либо барьерами между частями видового населения и изоляция, определяемая большей возможностью спаривания близко живущих особей, т. е. изоляция расстоянием.
Биологическую изоляцию обеспечивают две группы механизмов: устраняющие скрещивание (докопуляционные) и изоляция при скрещивании (послекопуляционные). Первые механизмы предотвращают потерю гамет, вторые связаны с потерей гамет и зигот.
Спариванию близких форм препятствуют различия во время половой активности и созревания половых продуктов. Известно существование «яровых» и «озимых» рас у миног (Lampetra) и некоторых лососевых рыб (Oncorhynchus), которые резко отличаются временем нереста; между особями каждой из рас существует высокая степень изоляции. Среди растений известны случаи генетически обусловленного сдвига в период цветения, создающего биологическую изоляцию этих форм — явление фенологического полиморфизма.
В природе обычна биотопическая изоляция, при которой потенциальные партнеры по спариванию встречаются, так как они реже предпочитают разные места обитания. Так, часть зябликов (Fringilla coelebs) гнездится в лесах таежного типа, а другая — в невысоких и редких насаждениях с большим числом полян. Потенциальная возможность перекрестного спаривания особей этих групп ограничена. Большое значение в возникновении и поддержании биологической изоляции у близких форм имеет этнологическая изоляция — осложнения спаривания, обусловленные особенностями поведения. Велико разнообразие способов этологической изоляции у животных. Ничтожные на первый взгляд отличия в ритуале ухаживания и обмене зрительными, звуковыми, химическими раздражителями будут препятствовать продолжению ухаживания.
Вторая большая группа изолирующих механизмов в природе связана с возникновением изоляции после оплодотворения (собственно-генетическая изоляция), включающей гибель зигот после оплодотворения, развитие полностью или частично стерильных гибридов, а также пониженную жизнеспособность гибридов.
При межвидовом спаривании часто образуются вполне жизнеспособные гибриды, но у них, как правило, не развиваются нормальные половые клетки. В случае же нормального развития гамет гибриды оказываются малоплодовитыми.
Изоляция как эволюционный фактор не создает новых генотипов или внутривидовых форм. Значение изоляции в процессе эволюции состоит в том, что она закрепляет и усиливает начальные стадии генотипической дифференцировки, а также в том, что разделенные барьерами части популяции или вида неизбежно попадают под различное давление отбора. Изоляция ведет к сохранению специфичности генофонда дивергирующих форм.
Важная характеристика действия изоляции как фактора эволюции — это ее длительность. В большинстве случаев причина возникновения биологической или пространственной изоляции сохраняется на длительное время.