¿Cómo hacer una función que retorne un vector en Visual Basic?

Amigo, deberías trabajar indicando los tipos de cada variable. Pero bueno vamos a lo nuestro. Según lo que entendí quieres que tu función devuelva un vector. Para ello vamos a trabajar con vectores dinámicos ya que no es posible hacerlo con vectores estáticos o de dimensión fija.

Declaremos la función de la siguiente manera suponiendo que los vectores sean de enteros. Puedes cambiar el tipo de dato a tu conveniencia.

‘La función PromMovil genera una variable con la media movil

' del vector columna X para N retrasos

Public Function PromMovil( byref X() as integer, byval N as integer) as integer()

Dim Tam as integer, Count as integer, jota as integer, cumul as integer, retas integer, ind as integer

Dim Salida() as integer

Application.Volatile

Tam = X.Rows.Count

Redim Salida( 1 to Tam)

For Count = 1 To Tam

If Count < N Then

For jota = 1 To N

ind = Count - jota + 1

If ind < 0 Then

ret = 0

Else

ret = X(ind)

End If

cumul = cumul + ret

Next jota

Salida(Count) = cumul / N

Else

For jota = 1 To N

cumul = cumul + X(Count - jota + 1)

Next jota

Salida(Count) = cumul / N

End If

Next Count

PromMovil = Salida

End Function

Para llamar a esta función debes hacer::

Dim X(1 To 10) As Integer

Dim N As Integer, i as integer

Dim Salida() As Integer

Salida = PromMovil(X, N)

For i = lbound(salida) to ubound(salida)

Debug.print salida(i)

Next i

Nota: No revisé el código de tu función, solo me dediqué a indicarte como pasar un vector en el nombre de la función. Espero que esto te sirva.