Немного непонятно условие. Если Формула выдает простые числа для первых N натуральных чисел, а для N +1-го уже составное, то N - и есть количество простых чисел для данной формулы. Все правильно я понял?

ИМХО, надо найти максимальное подряд идущее натуральное число, не дающее по этой формуле составное. Для определяющих его составляющих формулы и посчитать произведение.

А что у нас с отрицательными числами? " -5" - это простое число?

"-5" - отрицательное простое число. Именно поэтому с условии задачи "a" и "b" взяты по модулю.

А я всегда считал и считаю, что "Простое число — это натуральное число, которое имеет ровно 2 различных делителя (только 1 и само себя)". И отрицательное не является натуральным. Да и во всех книжках, которые я читал, ряд простых чисел начинается с 2 3 5 7... Так что, обращайтесь к первоисточникам и не вникайте в комменты, возможно сделанные со скрытым умыслом.