En estos métodos se hace una búsqueda a lo largo de diversas direcciones, ajustando después una curva (en el caso monodimensional) que puede ser una parábola y estimando el mínimo por interpolación. Dentro de este esquema está el conocido Método SIMPLEX. (P.e. en una superficie tridimensional - dos variables - coloca un triángulo sobre la superficie, y cada vértice va buscando el mínimo, si alguno lo encuentra ''tira" del triángulo hasta llevarlo al mínimo).
Este procedimiento es muy lento, aunque bien realizado suele ser seguro.