Обобщенные субдифференциалы и экзостер

Негладкий анализ сформировался как самостоятельный раздел и непосредственное продолжение классического («гладкого») анализа в 60–70-х годах XX столетия, хотя впервые негладкие задачи были поставлены и изящно решены еще П. Л. Чебышевым. Негладкие задачи до сих пор привлекают внимание исследователей как ввиду наличия множества нерешенных интересных теоретических задач, так и вследствие возникновения новых практических приложений.

Исторически первыми глубоко изученными классами негладких функций были классы выпуклых функций и функций максимума. Исследование этих функций привело к развитию выпуклого анализа и теории минимакса (см., например, [11, 1]). При этом оказалось, что основным инструментом исследования указанных классов функций является субдифференциал (представляющий собой выпуклое множество в сопряженном пространстве), с помощью которого можно, в частности, вычислить производные по направлениям (и тем самым получить аппроксимацию первого порядка функции в окрестности заданной точки), сформулировать условия минимума, найти направления наискорейшего спуска и построить численные методы.

Упомянутые свойства субдифференциалов выпуклых функций и функций максимума привели к многочисленным попыткам найти подобный выпуклый объект и в невыпуклом случае. Различные обобщения понятия субдифференциала были предложены и исследованы. Среди наиболее удачных и популярных следует отметить, в первую очередь, субдифференциал Кларка (см. [6, 16]). Обзор работ по субдифференциалам имеется, например, в [14]. Общая теория субдифференциалов в абстрактных пространствах построена в [7, 8]. Однако, как отмечается в [8], от субдифференциала «мало прока, если

нет достаточно эффективных средств его вычисления». В настоящей работе для некоторых наиболее распространенных субдифференциалов в конечномерных пространствах строятся правила их вычисления. Это делается с помощью экзостеров.

Идея сведения задачи минимизации произвольной функции к последовательности выпуклых задач была воплощена Б. Н. Пшеничным [10], который ввел понятия верхней выпуклой и нижней вогнутой аппроксимаций. А. М. Рубинов в [3] предложил рассматривать исчерпывающие семейства верхних выпуклых аппроксимаций и нижних вогнутых аппроксимаций. Впоследствии были введены понятия верхнего и нижнего экзостеров, представляющие двойственные объекты и позволяющие свести исходную оптимизационную задачу к последовательности выпуклых задач минимизации.

В настоящей работе изучается связь между экзостерами и некоторыми обобщенными субдифференциалами негладких функций. Понятие экзостера и некоторые его свойства описаны в п. 3. В п. 4 субдифференциалы Гато и Фреше для дифференцируемых по направлениям в смысле, соответственно, Дини и Адамара функций выражены в терминах экзостеров. Эти субдифференциалы были введены в работе [13] и изучены в [25, 27].

Субдифференциалы Мишеля–Пено и Кларка обсуждаются в пп. 5 и 6. Их связь с экзостерами устанавливается в п. 7.

2.    Исчерпывающие семейства верхних и нижних аппроксимаций

Б. Н. Пшеничный в [10] ввел понятия верхних выпуклых и нижних вогнутых аппроксимаций. Пусть функция h : R n ^ R — положительно однородна первой степени. Выпуклая положительно однородная функция h : R n ^ R называется верхней выпуклой аппроксимацией функции h , если

h(g) 6 h(g) V g G R n .                                   (1)

Вогнутая положительно однородная функция h : R n ^ R называется нижней вогнутой аппроксимацией функции h , если

W) 6 h ( g ) V g G R n .                            (2)

Исчерпывающие семейства аппроксимаций были определены А. М. Рубиновым в [3] (см. также [4]).

Множество Л * верхних выпуклых аппроксимаций функции h называется исчерпывающим семейством верхних выпуклых аппроксимаций функции h , если

4g)=jnf h(g ) V g G R n .                          (3)

h ∈ Λ ^∗

Множество Л * нижних вогнутых аппроксимаций функции h называется исчерпывающим семейством нижних вогнутых аппроксимаций функции h , если

h(g) = sup h ( g ) V g G R n .                              (4)

h ∈ Λ ∗

Существование исчерпывающих семейств устанавливается в следующей теореме [3].

Теорема 1 (А. М. Рубинов) . Пусть h : R n ^ R — положительно однородная функция. Если h полунепрерывна сверху на R ⁿ , то существует исчерпывающее семейство верхней выпуклой аппроксимации функции h .

Если h полунепрерывна снизу на R ⁿ , то существует исчерпывающее семейство нижних вогнутых аппроксимаций функции h .

Если h — полунепрерывна сверху и ограничена, то, по теореме 1, существует семейство Л * верхних выпуклых аппроксимаций, удовлетворяющее (3). Если h полунепрерывна снизу и ограничена на B 1 , то существует семейство Л * нижних вогнутых аппроксимаций, удовлетворяющее (4).

Так как (см. [11]) каждая выпуклая положительно однородная функция h(g) может быть представлена в виде

h(g) = max (v,g) V g G R n , v e C ( h )

где C (h) — субдифференциал функции h в нуле (это выпуклый компакт в R n ), то (3) может быть записано как

h ( g ) = inf max(v,g) V g G R n ,                          (5)

C∈E∗ v∈C где E* = {C c Rn | C = C(h), h G Л*}.

Множество E * = E * ( h ) называется верхним экзостером функции h .

Аналогично, так как любая вогнутая положительно однородная функция h может быть представлена в виде

h(g) = mm (v,g) V g G R n , v e C ( h )

где C (h) — супердифференциал функции h в нуле (это тоже выпуклый компакт в R n ), то (4) принимает вид

h(g) = sup min(w,g) V g G R n ,                          (6)

C∈E∗ w∈C где E* = {C c Rn | C = C(h), h G Л*}.

Множество E _* = E _* (h) называется нижним экзостером функции h .

• 3.    Условия экстремума в терминах экзостеров

Пусть f : X ^ R, где X C Rn — открытое множество. Функция f называется дифференцируемой по направлениям в смысле Дини в точке x ∈ X , если для всех g ∈ Rn существует конечный предел fD(x,g)=lim1[f(x + ag) - f (x)].                        (7)

a f G a

Функция f называется дифференцируемой по направлениям в смысле Адамара в точке x ∈ X, если для всех g ∈ Rn существует конечный предел fH(x,g)=    lim ,“[f(x + ag0) - f (x)].                      (8)

[ a,g⁰M +G ,g ] a

Пусть f : Rn ^ R — заданная дифференцируемая по направлениям (в смысле Дини или Адамара) функция и h(g) = f 0(x, g) — соответствующая производная функции f в точке x по направлению g. Функция h(g) положительно однородна первой степени. Если h — полунепрерывна сверху как функция g, то (см. п. 2) h(g) может быть представлена в виде (5), а если h(g) = f 0(х, д') — полунепрерывная снизу как функция д, то h(g) может быть выписана в форме(6).

Если h непрерывна по g , то оба представления выше (5) и (6) верны. Например, если f — липшицева функция, то ее производные Адамара совпадают с соответствующими производными Дини и непрерывны как функции направления.

В [15] М. Кастеллани показал, что если функция h — липшицева, то она может быть записана в виде

h(g) = mn mtc^ д') v д g R n                         (9)

и в виде

h ( g ) = max min(w, g) V g G R n ,                        (10)

C∈E∗ w∈C где семейства множеств E∗ и E∗ — ограничены в совокупности. Напомним, что семейство множеств E ограничено в совокупности, если найдется такой шар B в Rn , что C ⊂ B ∀ C∈E.

Пара E = [E * , E * ] семейств выпуклых множеств, где E * — верхний экзостер, и E* — нижний, называется биэкзостером. Экзостеры были введены в [5, 21, 22].

Там было показано, что если функция f достигает минимума на R ⁿ в точке x ^∗ и если известен верхний экзостер E ^∗ функции f в точке x ^∗ , то выполнено следующее необходимое условие безусловного минимума:

0 n G C V C G E * .                              (11)

Пусть h — непрерывна. Если найдется такое 6 >  0 , что

B ₅ С C V C G E * ,                             (12)

где B 5 = { х G R n | || x || < 6 } , то х * — точка строгого локального минимума функции f . Условие (12) является достаточным условием строгого локального минимума функции f .

Если x ^∗∗ — точка максимума функции f на R ⁿ и известен нижний экзостер E ∗ функции f в точке x ^∗∗ , то необходимое условие максимума в случае отсутствия ограничений принимает вид

0 n G C V C G E * .                              (13)

Пусть h непрерывна. Если найдется такое 6 >  0 , что

B _S С C V C G E * ,                             (14)

то x ^∗∗ — точка строгого локального максимума f . Условие (14) является достаточным условием строгого локального максимума функции f .

В [17] был представлен обзор некоторых результатов, относящихся к этим новым объектам. Некоторые свойства и приложения экзостеров также обсуждались в [19, 20, 29, 30].

4.    Соотношение между субдифференциалами Фреше и Гато и верхними и нижними экзостерами 4.1.    Субдифференциал Фреше и экзостеры. Пусть X — открытое множество в Rn. Нижний субдифференциал Фреше функции f : X ^ R в точке хо G X можно определить следующим образом (см. [25, 28]):

d - f(х о ) := ( v G R n I liminf f ^(x) - f < x ^{o )} - ⁽ v'x - x ^{o )} >  0 ) .

^F                         x → x 0             || x - x 0 ||

Симметрично нижнему субдифференциалу Фреше также можно определить соответствующий верхний субдифференциал Фреше:

\                       f(x) - f(xo) - (v,x - xo) / nl д +j (xo) := s v G R limsup---------n-------n--------- 6 0 > .

F              I ¹ x ^ x o               ^{|| x -} x o II                  J

Первую из этих конструкций принято называть субдифференциалом Фреше, опуская слово «нижний». Элементы нижнего (верхнего) субдифференциала Фреше называются нижними ( верхними ) субградиентами Фреше. Насколько нам известно (см. [25]), субградиенты Фреше были впервые введены в [13] для конечномерных пространств и были названы > - и 6 -градиентами.

Нижние и верхние субдифференциалы Фреше также могут быть определены через понятие дифференцируемости по Фреше (см. [14, 25]). А именно, v ∈ R ⁿ является нижним (верхним) субградиентом Фреше функции f в точке x o , если найдется такая дифференцируемая по Фреше в точке x o функция g , что g(x) 6 f (x) ( g(x) >  f (x) ) для всех x G X , g(x o ) = f(x o ) и V = g ⁰ (x o ) .

Функция f : X ^ R называется субдифференцируемой (супердифференцируемой) по Фреше, если множество д - f (x o ) ( d + f(x o )) — непусто. Заметим, что оба (верхний и нижний) субдифференциала Фреше функции f непусты в точке x o G X тогда и только тогда, когда f дифференцируема по Фреше в точке x o (см. [25]). В этом случае д — f (x o ) = d + f (x o ) = { f 0 (x o ) } .

Следующее соотношение верно для дифференцируемой по Адамару функции.

Лемма 1. Пусть функция f : X ^ R дифференцируема по направлениям в смысле Адамара в точке xo G X. Положим h(g) = f 0 (xo; g) для всех g G Rn. Тогда d-f (xo) = dFh(0n);  d+f (xo) = d+h(0n).

C Из (8) следует, что f (x) - f (xo) - (v, x - xo) = f 0(x; x - xo) - (v,x - xo) + o(x - xo) ||x - xo||                           ||x - xo||                ||x - xo|| ‘

Принимая во внимание, что последнее слагаемое стремится к нулю, когда x ^ xo, и что h(x - xo) - h(0n) = f0(xo; x - xo), подставляя y = x - xo в правую часть, мы сразу же получаем liminf f (x) - f (xo) - (v,x - xo) = Uminf h(y) - h(0n) - (v,y) x^xo            I|x - xo||               y^on            ||y||

и

lim sup x→x0

f (x) - f (x o ) - (v,x - x o ) || x - x o ||

h(y) - h(0 n ) - (v,y)

= lim sup--------и-и--------,

y^on          НуН

что влечет (15). B

Следующая теорема о представлении субдифференциала Фреше положительно однородной функции была доказана в [29].

Теорема 2. Пусть E — верхний (нижний) экзостер положительно однородной функции h : R n ^ R . Тогда

\ C = d - h,                             (16)

C∈E где д- h — нижний (верхний) субдифференциал Фреше функции h в нуле.

Следствие 1. Пусть E i и E 2 — различные верхние (нижние) экзостеры одной и той же функции h : R n ^ R . Тогда

\ C = \ C.

C ∈ E 1      C ∈ E 2

Из леммы 1 и теоремы 2 можно сделать вывод, что если функция f : X ^ R дифференцируема по направлениям в смысле Адамара в точке xo G X и f 0(xo; g) — полунепрерывна сверху (снизу) как функция g, то d- f (xo) =   \ C,

C ∈ E f ( x 0 )

где d - f (x o ) — нижний (верхний) субдифференциал Фреше функции f в точке x o , а E f (x o ) — верхний (нижний) экзостер f в точке x o .

Лемма 2. Пусть функции f i , / 2 : X ^ R — дифференцируемы по направлениям в смысле Адамара в точке x o G X и пусть f (x) = f i (x) + f 2 ( x ) для всех x G X . Следующее равенство:

d - f i (x o ) + d - f 2 ( xo) = d - f (x o )                           (17)

имеет место тогда и только тогда, когда существуют такие верхние экзостеры E 1 и E 2 функций f 1 и f 2 соответственно, что

\ + \ = \ C, C1∈E1 C2∈E2 C∈E где E = {C G Rn |3Ci G Ei,C2 G E2 : C = Ci + C2}.

C Следует из представления верхнего экзостера суммы функций (см. [17]) и теоремы 2. B

Аналогичный результат имеет место и для верхнего субдифференциала Фреше. Хорошо известно (см. [11, 25]), что если одна из функций дифференцируема по Фреше в точке x 0 или обе функции f 1 и f 2 — выпуклые, то имеет место равенство (17). Несложно убедиться, что эти результаты также следуют из леммы 2.

Известно, что необходимые и достаточные условия минимума могут быть выражены через нижний субдифференциал Фреше (см. [9]). Для того, чтобы точка x ^∗ ∈ X была точкой локального минимума функции f : X ^ R , необходимо, чтобы

O n G d ^- f (x * );

условие

O n G int d - f (x * )

— достаточное для того, чтобы точка x∗ была точкой локального минимума функции f . Пусть f дифференцируема по направлениям по Адамару. Принимая во внимание представление (16) субдифференциала Фреше, получаем условия (13) и (14). Таким образом, выражения для необходимых и достаточных условий минимальности через верхние экзо-стеры и нижний субдифференциал Фреше совпадают для функций, дифференцируемых по направлениям в смысле Адамара. Однако, в случае, когда необходимые условия минимума не выполнены, верхние экзостеры могут предоставить информацию о направлениях спуска (см. [17]), в то время как нижний субдифференциал Фреше - нет, и может даже оказаться пустым. Подобный результат имеет место для условий максимума в терминах нижнего экзостера и верхнего субдифференциала Фреше.

• 4.2.    Субдифференциал Гато и экзостеры. Пусть f : X ^ R , где X — открытое множество в R n . Нижний субдифференциал Гато функции f в точке x g G X можно определить следующим образом (см. [23]):

d - f (x g ) = n v G R n | liminf ^{f (X 0 +} tg ) ^{f (} x ^{0 )} >  (v,g) V g G R n O -

Верхний субдифференциал Гато может быть определен аналогично:

d + f (x g ) = n v G R n | limsup ^{f (X 0 +} tg )    ^{f (} x ^{0 )} 6 (v, g) V g G R n O -

¹                 tl 0                  t                                         ¹

Заметим, что, вообще говоря, д - f (Х 0 ) С d _G f (x 0 ) и d + f(x 0 ) C d + f(x 0 ) (см. [23]).

Лемма 3. Нижний (верхний) субдифференциал Фреше положительно однородной функции в нуле совпадает с нижним (верхним) субдифференциалом Гато.

C Пусть h : R n ^ R — положительно однородная функция. Несложно заметить, что для любых g G R n и t >  0

^h(0 n — tg ) ^— h⁽⁰ n ) t

th^ h ( g ) .

Таким образом, нижний и верхний субдифференциалы Гато функции h в нуле принимают вид dGh(0n) = {v G Rn | h(g) > (v,g) Vg G Rn}, d+h(0n) = {v G Rn | h(g) 6 (v,g) Vg G Rn}, что совпадает с представлениями для нижнего и верхнего субдифференциалов Фреше положительно однородной функции (см. [25], Предложение 1.9). B

Из леммы 3 немедленно следует, что утверждение, аналогичное утверждению теоремы 2, выполняется для нижних и верхних субдифференциалов Гато.

Следующая лемма может быть доказана аналогично лемме 1.

Лемма 4. Пусть фукция f : X ^ R дифференцируема по направлениям в смысле Дини в точке Х0 G Rn. Положим h(g) = f0(x0; g) для всех g G Rn. Тогда dGf (x0) = dGh(0n);  dGf (x0) = d^h(0n).

Из вышеизложенного результата очевидно, что нижние и верхние субдифференциалы Гато дифференцируемой по направлениям в смысле Дини функции могут быть выражены и изучены посредством верхних и нижних экзостеров. Результат, подобный результату леммы 2, может быть также получен для дифференцируемой по направлениям в смысле Дини функции и субдифференциалов Гато.

5.    Субдифференциал Кларка

В 1973г. Ф.Кларк ввел понятие обобщенного градиента (см. [16, 6]).

Пусть X — открытое множество в Rn и пусть f : X ^ R, x G X, g G Rn. Положим fa(x;g) =, liminf ^[f(x0 + ag) - f(x0)]-                      (20)

[ a,x ⁰ ] ^ [+0 ,x ] a

Величина f . (x; g ) называется верхней производной Кларка функции f по направлению g , а величина f -i ( x ; g ) называется нижней производной Кларка функции f по направлению g . Отметим, что пределы в (19) и (20) существуют всегда (хотя могут принимать бесконечные значения). Функции f^- . ( x ; g' ) и f — (x; g) положительно однородны по g . Если f локально липшицева, то эти значения конечны. Рассмотрим этот случай более подробно.

Итак, пусть функция f локально липшицева на X . Тогда f почти везде дифферен-цирема. Через T (f) обозначим множество точек дифференцируемости функции f. Множество T(f) является множеством полной меры. Положим dshf (x) = {v G Rn | 3{xk} : xk G T(f), Xk ^ x, f0(xk) ^ v}.           (21)

Это множество было введено Н. З. Шором в 1972 г. (см. [12]) и названо им множеством почти-градиентов. Это множество не обязательно выпукло. Множество delf (x) = co{v G Rn | 3{xk} : xk G T(f), xk ^ x, f0(xk) ^ v}          (22)

называется субдифференциалом Кларка. Очевидно, delf (x) = co dshf (x).

Это множество выпукло и компактно (в липшицевом случае). Любое v G d _ei f (x) называется обобщенным градиентом. Ф. Кларк доказал, что (см. [6])

f c ^(x; g) = max ⁽v,g⁾, f i ⁽x; g) = min (w^).                ⁽²³⁾

v e d ci f ( x )                            w e d ci f ( x )

Нетрудно видеть, что условие

O n G d el f (x o )                                         (24)

является необходимым для того, чтобы точка x o G X была точкой локального или глобального минимума. Это же условие является необходимым для того, чтобы точка x 0 была точкой локального или глобального максимума. Точка x o G X , удовлетворяющая (24), называется стационарной (в смысле Кларка) точкой . Таким образом, условие (24) не различает точки минимума и максимума.

• 6.    Субдифференциал Мишеля–Пено

Ф. Мишель и Ж.–П. Пено в [26] предложили следующее обобщение производной по направлению:

fmp(x;g) = sup jlimsup^f(x + a(g + q)) - f (x + aq)] L(25)

qeRn I a^o aJ

Будем называть эту величину верхней производной Мишеля–Пено функции f в точке x по направлению g. Величина fmp (x; g)

= inf J liminf — [f (x + a(g + q)) — f (x + aq)] I qeRn ( a^o a называется нижней производной Мишеля–Пено функции f в точке x по направлению g . Если f локально липшицева, то существует выпуклое компактное множество dmpf (x) С Rn , такое, что fmp(x; 9) = max (v,g), fmp(x; g) = min (w,g).              (27)

v E d mp f ( x )                          w e d mp f ( x )

Напомним, что если функция f является дифференцируемой по направлениям, то dmpf (x) есть субдифференциал Кларка функции h(g) = f0(x,g) в точке g = On. Множество dmpf (x) часто называют [24] малым субдифференциалом. Вообще говоря, dmpf (x) С delf(x), а в некоторых случаях dmpf (x)= delf (x).

В то же время множество d _mp f (x) сохраняет ряд свойств множества d ci f (x) . Например, условие

On G dmpf (xo)(30)

является необходимым условием и минимума, и максимума. Условие (30), вообще говоря, сильнее условия (24).

В [18] было показано, что если функция f квазидифференцируемая (в смысле [3, 4]), то можно построить исчисление субдифференциалов Мишеля–Пено в терминах квазидифференциалов. В следующем пункте выводится формула для вычисления субдифференциала Мишеля–Пено в терминах экзостеров.

• 7.    Субдифференциалы Кларка и Мишеля–Пено в терминах экзостеров

  • 7.1.    Полиэдральный случай. Пусть функция h положительно однородная и лип-шицевая. Как отмечалось выше, h может быть представлена в формах (9) и (10). Вначале рассмотрим представление (9). Положим

Q(g) = {C G E* I h(g) = maxC^g)} he (g) = max(v,g),

Vg(C) = {w G C | (w,g) = he(g) = max(v,g)}.

Тогда

h(g) = min max(v, g) C E ^∗ v C

min max (w, g) = min (w, g) V g G Rn, eeQ(g) we Vg(eу        we Egv где

E g = cl co { V g (C) | C G Q(g) } .                            (35)

Теперь рассмотрим полиэдральный случай: предположим, что семейство E∗ содержит конечное количество множеств и каждое множество C G E* является многогранником. Тогда функция h дифференцируема по направлениям в каждой точке g G R*, причем

h ^{0 (}g, q)

= min max (w, q). e e Q ( g ) w e V g ( e )

Более того, для почти всех g множества Q(g) и V g (C) являются одноточечными, поэтому множество E g тоже одноточечное: E g = { w g } . Это означает, что функция h почти везде дифференцируема (ее дифференцируемость вытекает из липшицевости h ) и потому для почти каждого g существует градиент h' ( g ) функции h и h' ( g ) = W g . Обозначим через T (h) множество точек дифференцируемости функции h . Множество T (h) является множеством полной меры.

• 7.2.    Общий случай. Снова положим

  	Q(g) = { C Е E * 1 h ( g ) = max( v,g ) } ,                        (37) v ∈ C h e (g) = max(v,g),                                    (38) v ∈ C V g (C) = { w Е C 1 (w,g) = h e (g) = imax(v,g) } -                   (39)
  Тогда	h(g) = min max(v,g) 6 max(v,g) = h e (g) V g Е R n , V C Е E * .        (40) C ∈ E ∗ v ∈ C        v ∈ C

Для любого фиксированного C Е E * функция he (g), как функция максимума, является дифференцируемой по направлениям, при этом hc(g,q) = max (v,q) vq е Rn.                       (41)

v G V g ( C )

Функция h e (g) почти везде дифференцируема, т. е. множество V e (g) для почти всех д является одноточечным: V e (g) = { v e (g) } , где v e (g) Е R n .

Поскольку h — липшицевая функция, то она почти везде дифференцируема и поэтому для почти каждого g существует градиент функции h : h' ( g ) = W g . Через T (h) обозначим множество точек дифференцируемости функции h . Множество T (h) является множеством полной меры.

Зафиксируем go Е T(h). Возьмем произвольное C(go) Е Q(go), т. е. h(go) = he(go) (go). Так как h дифференцируема в точке go, то она дифференцируема по направлениям в этой точке go и h'(go,q) = (wgo,q) Vq Е Rn.

Если точка go — точка дифференцируемости функции he(go)(g), то производная по направлениям функции he(go) в точке go равна he(g0)(go,q) = (veыЫ^) Vq Е Rn-

Так как h(g) 6 he(go)(g) Vg Е Rn и h(go) = he^go), то h0(go, q) 6 he(g0) (go, q) V q Е Rn.

Из (44), (42) и (43) вытекает

Wgo = v(go), где v(go) = ve(go)(go). В силу произвольности go заключаем, что wg = v(g). Это соотношение имеет место только в случае, когда g — точка дифференцируемости обеих функций, h и he (g).

Множество T (h)) точек дифференцируемости функции h является множеством полной меры. Для любого C Е E * множество T ( h e ) точек дифференцируемости функции h C тоже является множеством полной меры. Теперь предположим, что множество

T * = \ T ( h e )                              (46)

C∈E∗ является множеством полной меры (это предположение выполняется, например, если множество E* счетное). Тогда T(К) ПT* — множество полной меры. Из (45) следует, что

W g = v e ( g ) (g) = v ( g ) для почти всех g.                     (47)

Замечание 1. Вместо множества E ^∗ в (46) можно взять множество

[ Q ( g ) с E * .

д е т ( h )

Замечание 2. Из определения h ясно, что

C (Ag) = C (g), V _Xg ( C ) = V g ( C ), Q(Ag) = Q(A), ^h e ^(Ag) = ^Ah e ( g ) w \g = v e ( Xg ) ^{( A}g ⁾ V ^A > 0.

Поэтому можно рассматривать только g из единичной сферы.

• 7.3.    Субдифференциалы Кларка и Мишеля–Пено. Известно (см. [6]), что множество

d el h (0 n ) = cl co { w g | g Е T ( h )}                             (48)

является субдифференциалом Кларка функции h в точке 0 n . Используя соотношение (47), можно выразить субдифференциал Кларка функции h в 0 n конструктивно в терминах точек v g .

Если функция f : R n ^ R липшицева и дифференцируема по направлениям в точке х Е R n , а h ( g ) — ее производная по направлениям в точке х , то d ci h (0 _n ) является субдифференциалом Мишеля–Пено (см. [26]) функции f в точке x :

d mp f (х) = d el h (0 n ) = cl co { w g | g Е T (h) } C d_df ( x ) .               (49)

Итак, субдифференциал Мишеля–Пено функции f в точке x может быть построен с помощью верхнего экзостера производной по направлениям h ( g ) = f 0 ( x,g ) . В некоторых случаях (см. [4]) субдифференциал Мишеля–Пено совпадает с субдифференциалом Кларка.

Замечание 3. Аналогичные результаты (с необходимыми изменениями) можно получить, если использовать представление (10) вместо (9). В этом случае используется нижний экзостер E _∗ .

Замечание 4. Выше в пунктах 4 и 7 было показано, что экзостеры тесно связаны с другими негладкими инструментами, такими как субдифференциалы Мишеля–Пено, Кларка, Гато и Фреше. Отметим, что выведенные отношения имеют вид равенств, т. е. получено исчисление упомянутых субдифференциалов.

Замечание 5. Для квазидифференцируемых функций формула для субдифференциала Мишеля–Пено была получена (см. [18]) с помощью - -разности, введенной в [2]. Формула (49) является обобщением этой формулы на случай произвольной дифференцируемой по направлениям функции.