Independientemente de que pueda ocurrir o no, ese argumento no tiene fundamento.Si asumimos que la IA es creada por el hombre, por definición, jamás va a ser más inteligente que el creador y por tanto es imposible que este "no la entienda".
¿Por qué no va a poder crear el ser humano algo superior a sí mismo?
¿Acaso no hemos creado vehículos que corren más que nosotros?
¿En base a qué se afirma que el requerimiento de crear una inteligencia es que sea creada por una inteligencia superior?
La evolución ni siquiera es un mecanismo consciente, por tanto "sin inteligencia" y aún así ha provocado la aparición y evolución de esta.
Con un mecanismo tan orate como la selección de individuos, el ser humano podría dar lugar a un aumento de la inteligencia por la vía de la evolución dirigida por selección artificial.
Para crear una IA, sólo necesita comprender los mecanismos detrás de la inteligencia. En ningún sitio está escrito que una inteligencia no pueda comprender los fundamentos de sí misma y por tanto potenciarlos y llevarlos más allá.